Страница сайта компании Anthropic и ее логотип на экране компьютера. Архивное фотоКраткий пересказ от РИА ИИ
- Джейкоб Коксон, исследователь из Anthropic, уходит из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к «точке невозврата».
- Коксон считает, что саморазвивающиеся ИИ-модели могут выйти из-под контроля и уничтожить человечество.
- Исследователь пришел к выводу, что ни одна частная компания не способна этично разрабатывать ИИ без внешнего регулирования или скоординированного замедления развития этой отрасли.
Исследователь из Anthropic Джейкоб Коксон уходит из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к «точке невозврата» и может привести к апокалиптическому сценарию уже в конце 2027 года, пишет газета Wall Street Journal.
«Мы движемся к наиболее жестким из этих сценариев, при которых уже к концу следующего года ситуация может выйти из-под контроля», – приводит его слова издание.
Он уходит из компании, отказываясь участвовать в гонке по созданию саморазвивающихся ИИ-моделей из-за опасения, что такие системы «могут выйти из-под контроля и уничтожить человечество». 27-летний математик из Великобритании отмечает, что его коллеги все чаще описывают текущую траекторию развития создаваемых ими технологий фразами вроде «критическая точка» и «эндшпиль».
Коксон рассказал, что в начале года ушел из OpenAI в Anthropic, привлеченный репутацией компании в области безопасности ИИ. Однако, хотя он по-прежнему уважает подход Anthropic к этой проблеме, теперь он пришел к выводу, что ни одна частная компания не способна этично разрабатывать ИИ без внешнего регулирования или скоординированного замедления развития этой отрасли.
Газета отмечает, что теперь мужчина планирует изучать поэзию.