Kompletnie nie wiesz czym jest AI, SAI.Bloodcult pisze: ↑14-02-2025, 13:43Rozważył bym to w trzech kwestiach:
- technologicznej
- czysto ludzkiej
- politycznej
Technologicznie:
Rewolucją w AI był przerzucenie się z CPU na GPU i klasteryzacja. Obecny rozwój sprzętowy nie przyspieszy jakoś drastycznie możliwości trenowania już opracowanych modeli.
Sama specyfika sieci neuronowych czyni jest podatnymi na tzw overfitting czyli zjawisko przeuczenia - nadmiernego dopasowania do danych. Obecne modele trenowane były na internecie do 2020 roku. Teraz przestrzeń zalana jest zawartością generowaną przez samo AI to przyniesie bezwartościowe (z perspektywy uczenia) dane i przyspieszy overfitting.
Będzie trochę jak z bitcoinami że ogromnymi nakładami mocy zyskamy jedynie niewielki przyrost "sprawności" modelu.
Ludzkie ograniczenia:
Model jest tak dobry jak dane na których został trenowany. Przy mniejszych projektach dobiera, czyści czy sprawdza się dane. W przypadku tak wielkich zbiorów zwyczajnie nie jest możliwe dokładne dobranie na czym tam naprawdę trenujemy.
Mniejsze modele były często trenowane metodą prób i błędów albo polegano na intuicji programistów (np. w analizie obrazu nieraz ręcznie wskazywało się które elementy obrazu było ważniejsze albo analizowało (np. tracking) wizualnie. W wielkich modelach póki co to odpada. Sama architektura sieci (już poleśmy najprościej ilości wejść, wartsw czy funkcje aktywacji) dobierana była na bazie doświadczenia i intuicji. Przy modelach LLM póki co taka wiedza jest jeszcze szczątkowa bo praktycznie nikt nie trenuje takich modeli od zera tylko bazują one na wytrenowanych modelach podstawowych (foundation models)
W przypadku np. klasyfikacji czy regresji walidacja modeli była obiektywna bo polegała na doborze ustalonych już metryk. W przypadku generatywnych modeli walidacja bardzo często polega na elemencie ludzkim.
Kwestie polityczne:
Szacuje się że prace umysłowe to ok. 20% ludności w naszych regionach świata. Jeśli te 20% miało by wylądować na bezrobociu w ciągu najbliższych 5 czy 10 lat to AI czeka szereg regulacji, obostrzeń czy opodatkowania.
Po co o tym.. w ogóle...?
Wiesz, że ludzie już np. w inżynierii biologicznej potrafią tworzyć zupełnie NOWE białka, takie jakie nie występują w świecie?