Dlaczego AI nie jest (jeszcze) inteligentne: wyjaśnia François Chollet -analizujemy na Umiemy
Kamienie milowe AI to nie dowód inteligencji Od zwycięstwa AlphaGo w 2016 po sukcesy GPT-4o i OpenAI o3 w 2024 – każde z tych osiągnięć prezentowane jest jako krok ku AGI. Jednak wg François Cholleta to błędna narracja. Systemy AI nie posiadają ogólnej inteligencji – wykonują wąskie zadania dzięki dopasowanym architekturom i ogromnym zasobom danych oraz mocy obliczeniowej. „memorize – fetch – apply” – tak Chollet opisuje działanie dzisiejszych systemów generatywnych AI. Czym jest prawdziwa inteligencja według Cholleta Chollet – badacz DNN i twórca testu ARC-AGI – twierdzi, że inteligencja to: To przeciwieństwo dzisiejszych LLM-ów, które przetwarzają dane pasywnie, bazując na wzorcach z treningu. Dlaczego obecny paradygmat AI nie prowadzi do AGI Chollet krytykuje dominujące podejście tzw. „scaling laws”. Trening modeli na coraz większych danych nie prowadzi do generalnej inteligencji – prowadzi do coraz lepszej interpolacji, nie generalizacji. Inteligencja ogólna wymaga zmiany architektury i założeń, nie tylko skali. Czym jest test ARC-AGI i jak mierzyć inteligencję Test ARC-AGI nie sprawdza, czy maszyna zna fakty, ale czy potrafi się ich nauczyć od zera. Przykład: nie liczy się, jak dobrze AI gra w szachy, ale jak szybko się ich nauczy – bez wcześniejszego kodowania reguł. Porównanie podejść do AGI Podejście Opis Plusy Minusy Test-Time Computing (TTC) Więcej zasobów na nowe zadania, bez zmiany modelu Szybsza reakcja Brak głębokiej adaptacji Test-Time Training (TTT) Fine-tuning modelu podczas zadania Większa elastyczność Ryzyko overfittingu, duże koszty Program Synthesis Tworzenie dedykowanych programów przy wsparciu DNN Największa szansa na „myślenie wolne” Wciąż wymaga nadzoru człowieka 2016 – AlphaGo wygrywa z mistrzem Go 2018 – AlphaStar wygrywa z ludźmi w StarCraft II 2019 – MuZero gra w gry komputerowe ucząc się poprze granie 2020 – AlfaFold analizuje i przewiduje trójwymiarowe struktury białek lepiej od człowieka 2022 – Cicero od Meta AI wygrywa w „Dyplomację” 2023 – AMIE i PaLM od googla diagnozują choroby lepiej od lekarzy (i są milsze) 2024 – ChatGPT 4o przechodzi Test Turinga 2024 – OpenAI o3 wygrywa z ludźmi w zadaniach z kodowania, matematyki i nauk przyrodniczych Wbrew temu, co hajpują mainstreamowe media, żaden z tych „kroków milowych” nie świadczy bynajmniej o „narodzinach istoty nowego gatunku”, ani o nieuchronnej ścieżce wykładniczego wzrostu, na którą wkroczyła ludzkość ku zagładzie. Mało tego, żadne z tych osiągnięć nie świadczy i nie może świadczyć ani o nadludzkiej inteligencji testowanych maszyn, ani nawet o ich wysokiej inteligencji. Najwyżej o wciąż jak najbardziej ludzkiej (i wciąż niedostępnej maszynom) OGÓLNEJ inteligencji ich twórców — architektów modeli, którzy je projektują i trenują pod konkretne benchmarki. Powyższy wniosek wynika z koncepcji Françoisa Cholleta — jednego z prekursorów deep-learning, doświadczonego architekta i badacza DNN (Deep Neural Networks), wieloletniego Senior Staff Engineer w Google (2015-2024), laureata Global Swiss AI Award (2021), uznanego niedawno za jedną ze 100 najbardziej wypływowych osób w świecie AI. Dlaczego sukcesy AI nie świadczą o inteligencji? Bo każdy z nich możemy wyjaśnić rozwiązaniami, które z inteligencją nie mają nic wspólnego — czysto mechanicznym (1) memoryzowaniem matematycznych procedur odwzorowujących statystyczne korelacje ukryte (przed człowiekiem) w zbiorach treningowych, (2) pasywnym przywoływaniem tych procedur w przypadkach, które maszyna sklasyfikuje jako podobne oraz (3) generowaniem na tej podstawie najbardziej prawdopodobnych zachowań typu obraz, muzyka, diagnoza lub kolejne słowo w ciągu wyrażeń (jak to Chollet dosadnie ujmuje: „memorize – fetch – apply”), tudzież (4)„brute force computing”, tj. dorzucaniem do modelu jeszcze więcej mocy obliczeniowych i jeszcze więcej danych. Chollet wielokrotnie podkreśla, że dotyczy to wszystkich systemów generatywnej AI opartych na DNN, zwłaszcza popularnych LLM-ów, które z premedytacją nazywa „interpolacyjnymi bazami danych” – interpolative databases tudzież „repozytoriami programów wektorowych” – repository of vector programs. Czym jest inteligencja? Wg Cholleta globalne środowisko AI bardzo długo ALBO kompletnie ignorowało to…
