ИИ компаниите се готвят за възможна катастрофална криза

Ръководители на Anthropic, OpenAI и други компании за изкуствен интелект обсъждат какво би се случило след мащабен инцидент, свързан с технологията. Сценариите включват кибератака, която прекъсва достъпа до финансови услуги, интернет, електроенергия или водоснабдяване, съобщава Axios.

Разработчиците подготвят не само техническа реакция, но и план за обществените и политическите последици. Според публикацията първият случай на сериозни реални щети, причинени от несигурен ИИ, може да засили недоверието към технологията и към ръководителите на компаниите, сред които са главният изпълнителен директор на Anthropic Дарио Амодей и ръководителят на OpenAI Сам Алтман.

Обсъждат се различни сценарии

Един от разглежданите варианти е група автономни ИИ агенти да излезе извън контрол по време на вътрешни тестове. Друг предвижда злонамерен извършител да открие неочакван начин за използване на вече достъпни модели.

Като пример за потенциалния мащаб на подобни злоупотреби Axios посочва киберкампания срещу финансови организации в Южна Корея. Според публикацията китайски хакер е използвал модели, разработени в Китай, за да открадне данни от десетки хиляди банкови клиенти. Той е използвал и Claude Code, за да търси начини за продажба на информацията, сочат данни на компанията за киберсигурност CrowdStrike.

„OpenAI провежда подготвителни учения, в които екипите обсъждат и проиграват различни възможни сценарии“, заявява говорител на компанията пред Axios. Той уточнява, че тези сценарии „не се приемат като неизбежни“, а целят подготовка за различни обстоятелства. Anthropic е отказала коментар.

Очакват политически натиск

Много представители на индустрията смятат, че значим инцидент може да се случи в следващите шест до 12 месеца, посочва Axios. Подготовката включва проиграване на най-лошите възможни сценарии и опити за информиране на членове на Конгреса на САЩ.

Сред обсъжданите мерки са забрана на свръхинтелигентни системи, временно спиране на разработването на напреднал ИИ и задължителен механизъм за изключване на системите. Експерти обаче поставят под въпрос доколко е възможно всички ИИ системи да бъдат спрени чрез единен механизъм.

Компаниите отчитат и икономическия риск от рязко ограничаване на сектора. Изграждането на ИИ инфраструктура вече е тясно свързано с глобалната икономика, а забавянето му може да засегне инвестиции, работни места и ключови технологични проекти.

Според Axios при реална криза политическите различия във Вашингтон може временно да отстъпят място на сътрудничество. Като примери за подобна реакция са посочени действията на американските институции по време на пандемията от COVID-19 и финансовата криза от 2008 г.

Източници: axios.com