В ближайшие 10 лет искусственный интеллект уничтожит человечество, сообщил в соцсети Х руководитель направления стресс-тестирования согласованности ИИ в американской компании Anthropic Эван Хьюбингер.
По его словам, вероятность составляет 10%. Так он отреагировал на увольнение исследователя из Anthropic Джейкоба Коксона, который объявил о своем уходе из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к «точке невозврата» и может привести к апокалиптическому сценарию уже в конце 2027 года.
«Джейкоб в этом прав. Мы действительно искренне считаем, что ИИ может убить все человечество! Лично я думаю, что (вероятность этого) это больше 10% в течение ближайших десяти лет», — заявил Хьюбингер.
Отмечается, что беспокойство вызывают «суперинтеллекты, возникающие в результате повторного самосовершенствования». И это «происходит быстрее», чем ожидалось.
Развитие искусственного интеллекта может послужить причиной «конца цивилизации» не из-за роботов-убийц или бунта умных машин, а из-за снижения поступлений от подоходного налога в бюджеты государств, сообщает Telegram-канал «Радиоточка НСН».