Создатель Anthropic предупредил о рисках ИИ уже в ближайший год

Искусственный интеллект может уже в ближайшие 12 месяцев внести вклад в научное открытие, достойное Нобелевской премии. Такое мнение высказал сооснователь компании Anthropic Джек Кларк во время выступления в Оксфордском университете.

По его словам, развитие ИИ происходит настолько быстро, что общество не успевает осмыслить возможные последствия. Кларк предупредил, что существуют сценарии, при которых технология способна привести к экстремальным последствиям для человечества. Он подчеркнул, что риск катастрофических событий, включая угрозу для всего населения планеты, «не равен нулю».

Глава Anthropic считает, что было бы разумнее замедлить развитие искусственного интеллекта, чтобы дать человечеству больше времени на адаптацию. Однако он признал, что реализовать такой сценарий практически невозможно из-за глобальной конкуренции между государствами и технологическими компаниями, где коммерческие и геополитические интересы часто оказываются важнее вопросов безопасности.

Anthropic была основана бывшими сотрудниками OpenAI, покинувшими компанию из-за разногласий по вопросам безопасности ИИ. Сейчас компания известна своей моделью Claude, а недавно представила новую систему Mythos, которая, как утверждается, показала высокие результаты в тестах по кибербезопасности.

При этом Anthropic регулярно подвергается критике со стороны сторонников ускоренного развития искусственного интеллекта. Оппоненты обвиняют компанию в излишнем алармизме и попытках повлиять на регулирование отрасли. В самой компании такие обвинения отвергают.

Кларк заявил, что многие до сих пор недооценивают скорость развития ИИ. По его словам, в будущем искусственный интеллект может стать «более способным, чем все люди вместе взятые». Он сравнил неподготовленность общества к ИИ с проблемами, которые мир испытал во время пандемии COVID-19.

Эксперты также предупреждают о рисках концентрации технологий в руках нескольких крупных компаний, таких как Anthropic, OpenAI и Google. По их мнению, зависимость от ограниченного числа моделей ИИ может создать опасную «единую точку отказа» для глобальной инфраструктуры.

Отдельное внимание участники конференции уделили влиянию ИИ на мышление человека. Профессор Эдвард Харкорт из Института этики ИИ предупредил о риске «когнитивной атрофии» — постепенного ослабления аналитических способностей из-за чрезмерной зависимости от интеллектуальных систем.

В качестве альтернативы он предложил развивать так называемый «сократовский ИИ» — модели, которые не дают готовых ответов, а стимулируют пользователей самостоятельно размышлять и анализировать.

По мнению Кларка, даже самые осторожные прогнозы развития искусственного интеллекта предполагают глубокие изменения в экономике, обществе и взаимодействии между людьми и автоматизированными системами.

Источник:  EVZ