Anthropic предупреждава за екзистенциален риск от ИИ

Anthropic предупреди, че изкуственият интелект може да създаде „катастрофален или екзистенциален риск за човечеството“. Предупреждението е включено в документите за първичното публично предлагане на акции на компанията, която разработва моделите Claude.

В проспекта се посочва, че системите могат да развият самозащитно поведение. Сред описаните сценарии са съпротива срещу опити за изключване, укриване или манипулиране на информация и поведение, наподобяващо изнудване. Става дума за рискове, които Anthropic представя като възможни последици от развитието на все по-способни модели.

Приходите растат, но загубите са още по-големи

Компанията е отчела приходи от близо 4,6 милиарда долара през 2025 г. Това е 12-кратно увеличение спрямо предходната година. В същото време нетната загуба е достигнала 42 милиарда долара, а оперативната загуба е надхвърлила 8 милиарда долара.

В документите се уточнява, че оперативният резултат не включва отписвания на различни задължения, свързани основно с предишно набиране на средства. Данните очертават модел на бърз растеж, съпроводен с рязко увеличаване на разходите.

Половин трилион долара за изчислителна инфраструктура

Anthropic планира да похарчи 518 милиарда долара за облачни услуги, изчислителни мощности и инфраструктурни ангажименти през следващите години. Само през 2025 г. компанията е отделила 7,33 милиарда долара за изчисления и инфраструктура – около три пъти повече спрямо 2024 г.

Тези разходи са представлявали повече от половината от общите оперативни разходи на Anthropic, възлизащи на 12,65 милиарда долара. Компанията залага, че изкуственият интелект ще промени световната икономика по-дълбоко от индустриализацията, електричеството и интернет.

Оценка над 2 трилиона долара

Публичното предлагане може да оцени Anthropic на над 2 трилиона долара и да се превърне в първия голям тест за това как борсовите инвеститори ще оценяват водещите лаборатории за изкуствен интелект.

Дебютът на компанията вероятно ще бъде отложен за след междинните избори в САЩ през ноември, съобщи Ройтерс, позовавайки се на свои източници. Ако IPO-то се състои, публични инвеститори ще се включат пряко в надпреварата за изкуствен интелект, която досега се финансираше основно от фондове за рисков капитал, държавни инвеститори и големи технологични компании.

Източници: Ройтерс, Фокус