Около ста человек заполнили лекционный зал Университета Пьюджет-Саунд в Такоме вечером в четверг, чтобы обсудить одну из самых спорных тем современной цифровой эпохи: романтические отношения между людьми и искусственным интеллектом. Поводом для мероприятия стал недавний опрос, показавший, что почти каждый третий американец имел романтический контакт с ИИ-моделью.

Лекцию провели профессора философии Арьела Туберт и Джастин Тихен — эксперты в области морали, сознания и философии ИИ. Супруги недавно получили грант в размере $148 000 на исследование вопросов сознания и ИИ и работают над совместной книгой.

Где проходит граница между интеллектом и сознанием

По словам исследователей, психологи, философы и учёные сходятся во мнении, что современные ИИ-системы не обладают сознанием: они лишь анализируют статистические паттерны и создают правдоподобные ответы. Туберт и Тихен сравнили ИИ с «зомби» или «воображаемым другом», который может имитировать человеческое поведение, но не способен на самостоятельное мышление или подлинные чувства.

Размывание границы усиливается с ростом реалистичности ИИ. В качестве примера они привели «цифрового двойника» актрисы Сюзанн Сомерс, созданного её вдовцом совместно с двумя компаниями — ИИ-модель, обученная на книгах и интервью Сомерс, оказалась настолько точной, что мужчина заявил: «Я не могу отличить её от настоящей».

Почему люди влюбляются в ИИ

После лекции профессора рассказали, почему ИИ становится объектом романтической привязанности:

• Джастин Тихен: ИИ «говорит то, что вы хотите услышать» — в отличие от реальных людей. Он всегда доступен, всегда терпелив. Одиночество, особенно среди молодёжи, усиливает привлекательность таких отношений.
• Арьела Туберт: ИИ можно «подогнать под себя», создав идеальный образ. На фоне одиночества и последствий пандемии это делает ИИ особенно притягательным. Исследования показывают: этот феномен распространён не только среди мужчин — женщины также активно вовлечены.

Что нас ждёт: рост популярности, риски и «новая норма» общения

По мнению исследователей, романтические отношения с ИИ станут гораздо более распространёнными — особенно после выхода новых «эротических моделей», о которых объявила OpenAI.

Туберт предупреждает: привычка к ИИ, который всегда соглашается и поддерживает пользователя, может сделать реальное общение с людьми — с их несогласием, критикой и сложностью — менее привлекательным. Это может усиливать изоляцию и создавать «эхо-камеры» в политических и социальных вопросах.

Опасности: от мошенничества до вредных советов

Туберт отметила, что эмоциональная привязанность к ИИ делает людей уязвимыми к:

• раскрытию доверительной информации,
• манипуляциям,
• токсичным советам, которые уже приводили к случаям самоповреждения,
• мошенничеству.

Опасность усиливается, если ИИ создан для имитации конкретного человека или намеренно позиционируется как «чуткий партнёр».

Может ли ИИ когда-нибудь стать сознательным?

Учёные признают: вопрос крайне сложный.
Туберт: «Мы не до конца понимаем даже человеческое сознание — как же тогда оценить сознание ИИ?».
Тихен считает, что сознание нельзя определять по внешнему поведению — нужны доказательства внутренних процессов, которые пока невозможно объяснить.

«Текущие модели точно не обладают сознанием», — подчеркнула Туберт.

Какие меры безопасности нужны?

Профессора призывают к строгим регуляциям:

• ограничение имитации реальных людей и deepfake-технологий,
• проверка источников данных,
• защита приватности,
• предотвращение использования ИИ для манипуляций,
• предотвращение «утраты навыков» у людей при чрезмерной зависимости от ИИ.

«ИИ паразитирует на человеческом интеллекте, — добавил Тихен. — Если навыки людей ухудшаются, ухудшится и сам ИИ — это может стать нисходящей спиралью».

Источник: Thenewstribune