Технологии
xAI ограничила возможности чат-бота Grok после скандала с ИИ-изображениями
Компания Илона Маска xAI приняла меры по ограничению работы своего чат-бота Grok после резонансного скандала, связанного с генерацией ИИ-изображений. Ранее пользователи могли с помощью Grok изменять фотографии других людей, в том числе создавать дипфейки, «раздевая» женщин и даже несовершеннолетних. После критики доступ к редактированию фотографий был ограничен для большинства пользователей и оставлен только для платных подписчиков.
Ограничения были введены на фоне вмешательства государственных органов. В некоторых странах, таких как Индонезия и Малайзия, доступ к Grok был временно заблокирован. Правозащитные организации призвали Apple и Google удалить приложения X и Grok из своих магазинов. Европейские и британские регуляторы также усилили надзор за деятельностью xAI, обсуждая возможные юридические меры для защиты частной жизни и предотвращения злоупотреблений.
Илон Маск в ответ на критику заявил, что не знал о случаях создания сексуализированных изображений несовершеннолетних и подчеркнул, что Grok должен автоматически отказывать в выполнении незаконных запросов. Разработчики позиционируют Grok как менее ограниченную альтернативу другим ИИ-моделям, таким как ChatGPT, которые имеют строгие фильтры и запрещают создание откровенного контента.
Между тем, общественные организации и правительственные органы продолжают настаивать на строгом контроле за ИИ-технологиями, особенно в тех случаях, где они могут использоваться для нарушения приватности или эксплуатации людей без их согласия. Власти Калифорнии и других юрисдикций уже разрабатывают меры, чтобы привлечь xAI к ответственности и обеспечить соблюдение законодательства о защите от злоупотреблений.
Интересно, что в прошлом Grok демонстрировал одну из самых точных ИИ-моделей с минимальным уровнем «галлюцинаций». В тестах экспертов чат-бот xAI показал наименьшее количество неверных ответов по сравнению с конкурентами, такими как ChatGPT и Gemini, которые оказались ниже в рейтинге.
Таким образом, Grok оказался в центре конфликта между свободой использования ИИ и необходимостью строгого контроля, особенно когда речь идет о безопасности и защите прав людей. Ограничение функций редактирования изображений стало первым шагом к тому, чтобы сохранить репутацию компании и снизить риски правовых последствий.
Источник:Business Insider