Новини›Mais›Метафората за мозъка като компютър оформи AI, но може да заблуждава дебата за съзнанието
Снимка: The Decoder
Mais

Метафората за мозъка като компютър оформи AI, но може да заблуждава дебата за съзнанието

The Decoder · неделя, 8 ноември, 15:49 · 2 мин четене

Трима водещи изследователи казват, че днешният AI не е съзнателен и вероятно не може да стане такъв

Изследователите на съзнанието Anil Seth, Ned Block и Giulio Tononi твърдят в коментар за списание Nature, че днешните AI системи не са съзнателни и вероятно няма да станат такива на силициеви чипове. Те считат предположението, че съзнанието зависи само от изчисленията, за „фатално погрешно“ и предупреждават да не се дават права на AI системите.

Коментарът отговаря на мнения на биолога Ричард Докинс и на AI пионера Джефри Хинтън, които смятат, че AI системите може вече да са съзнателни. Авторите посочват и проучване на Anthropic за вътрешните процеси в Claude, които наподобяват свойства на съзнателно обработване на информация. Самата компания не приема това за доказателство за субективно преживяване.

По-рано група от 19 експерти, включително Yoshua Bengio, изготви доклад със списък от 14 индикатора за съзнание, извлечени от водещи неврологични теории. Оценени бяха няколко системи, включително големи езикови модели. Докладът заключава, че никоя от тях не е сериозен кандидат за съзнание, но не вижда очевидни технически пречки системите в бъдеще да отговорят на повече индикатори.

Трите автора критикуват идеята, че съзнанието е просто обработка на информация. Според тях съзнанието е това, което изчезва при сън без сънища или при обща анестезия. Като пример посочват малкия мозък, който съдържа почти четири пети от невроните в мозъка, планира движения, но не участва съзнателно в тях. Те обясняват объркването между интелигентност и съзнание с това, че хората приписват човешки качества на машините, а езиковите модели се учат върху огромни количества човешки текст.

По-нататък те посочват, че идеята за компютърната функционалност има корени в работите на Алан Тюринг от 1936 г. и на McCulloch и Pitts от 1943 г. Според авторите мозъкът не може да се отдели от материята си, така че доказателства, че материалът е важен, говорят против съзнание в днешните AI системи. Накрая привеждат аргументи от Интегрираната информационна теория на Тононi, според която съзнанието изисква физическа система със специфично силно свързани компоненти, каквито дълбоките невронни мрежи на компютри не притежават.

Още новини