Джефри Хинтън: Създаваме „извънземни същества“ с ИИ

Джефри Хинтън, един от учените, поставили основите на съвременния изкуствен интелект, предупреди, че технологията може да създаде „извънземни същества“ – системи, които са по-интелигентни от хората. Според него обществото разполага само с няколко години, за да се адаптира към свят, в който хората няма да бъдат единственият интелигентен вид.

„Реалността е, че създаваме същества от друг вид“, заявява Хинтън в интервю за „Гардиън“. По думите му големите технологични компании настояват изкуственият интелект да става все по-интелигентен, без да обръщат достатъчно внимание на останалите характеристики на системите, които създават.

Предупреждение, а не точна прогноза

Хинтън оценява на 10-20% вероятността изкуственият интелект да причини изчезването на човечеството през следващите десетилетия. Той уточнява, че това не е конкретна прогноза за бъдещо събитие, а начин да покаже мащаба на риска.

„Ако ви кажат, че има 10% вероятност автобусът да катастрофира, няма да се качите на него. Смисълът на числата е да покажат, че рискът е сериозен. Не знаем колко сериозен, но е сериозен“, казва Хинтън.

Ученият отхвърля аргумента, че несигурността оправдава изчакване. „Уникалният проблем при изкуствения интелект е, че ако нещата се объркат, ако той поеме контрола, няма да има втори шанс“, заявява той.

Главният изпълнителен директор на Nvidia Дженсън Хуанг отхвърля оценката на Хинтън. Той заявява, че числото не е основано на научни изследвания и че подобни предупреждения са вредни. Хуанг призовава решенията за бъдещето на технологията да бъдат основани на доказателства и научни данни.

Критики към Тръмп и саморегулацията

Хинтън определя Доналд Тръмп като „корумпиран, сенилен престъпник“ и заявява, че употребата от американския президент на термина „свръхинтелигентност“ показва, че той разбира „почти нищо“ от изкуствен интелект.

Според Хинтън „свръхинтелигентност“ има ясно техническо значение – система, която е по-интелигентна от хората. Той критикува опита на Тръмп да използва израза като общо название за изкуствения интелект.

Ученият се противопоставя и на идеята технологичният сектор сам да определя правилата за безопасност. Той сравнява това с възможността петролните, азбестовите и тютюневите компании сами да изготвят предупрежденията за рисковете от своите продукти.

От пионер на технологията до неин критик

Хинтън години наред работи върху невронните мрежи – компютърни системи, които се учат да разпознават закономерности в данни, вместо да изпълняват само предварително зададени правила. През 2012 г. той и негови студенти създават програма за разпознаване на изображения, която значително изпреварва конкурентите.

Същата година Google придобива компанията на Хинтън DNNresearch за 44 милиона долара. Невронните мрежи по-късно стават основа на моделите, разработвани от водещите компании в сектора.

Хинтън напуска Google през 2023 г., за да може свободно да говори за рисковете от изкуствения интелект. Той е носител на наградата „Тюринг“, която получава заедно с Йошуа Бенджио и Ян Лекун, както и на Нобелова награда за физика.

Според него държавите имат общ интерес да споделят знания за безопасното развитие на технологията, защото никоя страна не би искала изкуственият интелект да излезе извън контрол в друга държава.

Източници: theguardian.com