Connect with us

Новости Вашингтона

Искусственный интеллект и алгоритмы всё чаще определяют наше финансовое будущее

Искусственный интеллект в финансах: как алгоритмы решают нашу судьбу и почему это опасно

Published

on

Компании всё чаще используют алгоритмы и искусственный интеллект (ИИ) для анализа огромных массивов данных о потребителях, определяя, кому одобрить кредит, какую назначить страховую премию или даже стоит ли брать человека на работу. Хотя технология может снизить дискриминацию, вызванную человеческим фактором, её несовершенство способно нанести серьёзный финансовый ущерб.

Невидимый судья: как ИИ принимает решения

Если алгоритм отклонил вашу заявку на кредит, вы, скорее всего, никогда не узнаете, почему это произошло.

«Модели ИИ собирают данные из соцсетей, мобильных приложений, и вы даже не представляете, какая информация о вас хранится в их базе, — говорит Чак Белл, эксперт по финансовой политике Consumer Reports. — Там могут быть сведения о другом человеке с похожим именем, а не о вас».

Большинство людей не подозревают, что их судьбу решает алгоритм. А даже если и догадываются, процесс принятия решений остаётся «чёрным ящиком»: невозможно понять, какие факторы сыграли роль. ИИ может использовать недостоверные или вовсе ложные данные, найденные в интернете.

«Проблема в том, что если на вход подаётся мусор, на выходе будет мусор, — объясняет Сьюзан Вайнсток, глава Consumer Federation of America. — А потребитель остаётся один на один с этой ошибкой. Регуляторы могут даже не догадываться, что алгоритм дискриминирует».

Как алгоритмы усиливают неравенство

В 2023 году Consumer Reports и Consumer Federation of America направили письмо в Бюро финансовой защиты потребителей (CFPB), предупреждая, что «алгоритмическая дискриминация может возникать из-за нерепрезентативных, некорректных или неполных данных, а также из-за отражения исторических предубеждений».

Например, почтовый индекс (ZIP-код) может казаться нейтральным параметром, но на деле служить признаком расы, дохода или религии.

«Это косвенная дискриминация, — поясняет Белл. — Вы ущемляете права защищённых групп, даже не осознавая, что ваша модель им вредит».

Страхи потребителей

Опрос Consumer Reports (2024) показал, что большинство американцев не доверяют ИИ в важных решениях:

  • 72% — против анализа видео-собеседований,
  • 69% — против проверки арендаторов,
  • 66% — против кредитных решений.

83% респондентов хотят знать, какие именно данные использовал ИИ при найме на работу, а 93% требуют возможности исправить ошибки в своей информации.

Опасность «галлюцинаций» ИИ

Исследование MIT предупреждает: генеративный ИИ может выдавать ложные данные, которые выглядят правдоподобно. Эти ошибки настолько распространены, что получили название «галлюцинаций».

Что предлагают защитники прав потребителей?

Consumer Reports выступает за новые законы, которые обяжут компании:

  1. Раскрывать использование ИИ при принятии важных решений (кредиты, страховка, аренда).
  2. Объяснять отказы простым языком, чтобы заявитель мог понять, не основано ли решение на ошибке.
  3. Запретить сложные модели, если компания не может объяснить их работу.
  4. Тестировать алгоритмы на предвзятость перед внедрением и регулярно — после.
  5. Ограничить сбор данных только необходимым минимумом.
  6. Запретить продажу данных, собранных ИИ, третьим лицам.

«ЕС уже принял “Акт об ИИ”, который гарантирует безопасность и прозрачность алгоритмов. Почему США не могут сделать то же самое?» — возмущается Вайнсток.

ИИ — мощный инструмент, но без строгих правил он рискует стать оружием против потребителей. Пока регуляторы отстают от технологий, миллионы людей остаются заложниками «чёрного ящика» — алгоритмов, которые решают их судьбу без права на апелляцию.

Новости Вашингтона

В Seattle обсуждают финансирование безопасности улиц на 14 миллионов долларов

Член городского совета Rob Saka предложил поправки к бюджету, включая возврат средств на ремонт выбоин и локальные дорожные проекты.

Published

on

Ремонт дорожного покрытия на улице Seattle

В городском совете Seattle обсуждается пакет бюджетных поправок, который предусматривает 14 миллионов долларов на безопасность улиц и восстановление финансирования ремонта выбоин. Инициативу представил член совета Rob Saka, представляющий районы West Seattle и South Seattle.

Предложения входят в набор из 20 поправок к проекту бюджета мэра Katie Wilson на 2027–2028 годы. Пока это инициатива одного из членов совета, а не утверждённые расходы: окончательное решение предстоит принимать всему городскому совету.

На что предлагается выделить деньги

Главный пункт — восстановление District Project Fund с объёмом 14 миллионов долларов на два года. По предложенной схеме деньги распределяются поровну между семью округами Seattle и предназначены для проектов дорожной безопасности на уровне районов.

Отдельно предлагается вернуть 1,3 миллиона долларов на ремонт выбоин. По словам Saka, сокращение этой статьи на 29 процентов может снизить способность города оперативно реагировать на обращения о повреждении покрытия.

Другие элементы пакета

Поправки также включают 500 тысяч долларов на уборку и благоустройство коммерческих кварталов West Seattle и 235 тысяч долларов на контролируемую стену для художественных росписей и образовательных мероприятий в Delridge.

Кроме того, Saka предлагает финансирование камер контроля дорожного движения на Alki, расширение досуговых программ и подготовительные работы над постоянным центром помощи ветеранам. Полная стоимость всех поправок и источники покрытия каждой из них в опубликованном сообщении не приводились.

Что будет с бюджетом

Администрация Wilson пытается решить проблему дефицита General Fund и предусматривает сокращения расходов и штатных позиций. Совет должен сопоставить новые предложения с уже заявленными бюджетными обязательствами.

Общественные слушания назначены на 5 ноября. Ожидается, что окончательный бюджет будет утверждён к началу декабря. Пока конкретные дорожные проекты и суммы остаются предметом обсуждения.

Читайте также: Другие новости штата Вашингтон.

Continue Reading

Новости Вашингтона

Прокуратура King County открыла онлайн-портал для потерпевших по уголовным делам

Новая защищённая система позволит потерпевшим следить за ходом части уголовных дел и получать уведомления о заседаниях.

Published

on

Онлайн-сервис прокуратуры King County для потерпевших

Прокуратура King County представила защищённый онлайн-портал, через который потерпевшие по уголовным делам смогут получать важные сведения о ходе разбирательств. Инициатива призвана уменьшить зависимость от телефонных звонков, бумажных писем и самостоятельного поиска документов в судебных системах.

По словам окружного прокурора Leesa Manion, цифровой сервис должен сделать реализацию прав потерпевших более удобной. На первом этапе система охватывает дела о тяжких преступлениях взрослых, дела несовершеннолетних и некоторые менее тяжкие уголовные процессы. Для взрослых дел указан порог — обвинения, предъявленные после 13 октября.

Какие сведения будут доступны

Через портал предусмотрен доступ к информации по делу и уведомлениям о предстоящих судебных заседаниях. Пользователь может выбрать текстовые сообщения или электронную почту. Это позволяет заранее планировать поездку в суд, отпуск с работы и уход за детьми.

Доступ может предоставляться не только непосредственному потерпевшему, но и уполномоченным представителям, ближайшим родственникам погибших, опекунам детей и уязвимых взрослых. Конкретная возможность пользования системой зависит от категории дела.

Почему появился новый сервис

Представители прокуратуры указывают, что сотрудников по сопровождению потерпевших недостаточно для назначения персонального специалиста каждому делу. Из-за этого потерпевшие по имущественным преступлениям и другим категориям иногда вынуждены сами выяснять процессуальные подробности.

Новый инструмент не заменяет работу адвокатов и специалистов поддержки, но позволяет сделать часть обновлений доступной без обращения к конкретному сотруднику.

Кому продолжат сообщать отдельно

Прокуратура предусмотрела исключения для дел, в которых прямой контакт может создать угрозу безопасности. Пострадавшие, с которыми работает Special Assault Unit, также будут получать информацию по отдельному механизму.

Ранее, в июне 2024 года, King County запустил другой цифровой инструмент — портал обращений за судебными защитными предписаниями. Новый сервис расширяет практику электронного доступа к правовой информации, но выполняет иную функцию.

Читайте также: Другие новости штата Вашингтон.

Continue Reading

Новости Вашингтона

В Kenmore расследовали кражу и подделку чеков на сумму более 40 тысяч долларов

Следователи Kenmore заявили о подозреваемой в похищении чеков из почтовых ящиков жителей Kenmore и Bothell.

Published

on

Проверка почтовых ящиков в Kenmore

Полиция Kenmore сообщила, что направила материалы прокурорам после расследования серии краж чеков из почтовых ящиков в Kenmore и Bothell. Общая сумма обнаруженных похищенных и изменённых чеков, по данным следствия, превышает 40 тысяч долларов.

Кражи, по информации правоохранителей, произошли в конце августа. Следователи считают, что женщина забирала чеки из частных почтовых ящиков, меняла указанные в них данные и затем обналичивала документы, получив таким образом тысячи долларов. На 27 октября речь шла о передаче материалов для предъявления обвинений, а не о состоявшемся приговоре.

Как полиция вышла на подозреваемую

Детектив установил предполагаемую участницу схемы в ходе расследования. Для получения доказательств использовалась серия судебных ордеров на обыск. Подробности финансовых операций и сведения о количестве пострадавших в первом опубликованном сообщении не раскрывались.

Полиция также заявила, что у подозреваемой имеется значительная история предыдущих осуждений, включая дела о подделке документов и краже личности. Эти сведения приводит ведомство; в новом деле вина женщины должна оцениваться отдельно.

Чем опасна подделка почтовых чеков

Чеки, оставленные в частном ящике для отправки, могут попасть к злоумышленнику раньше, чем их заберёт почтовая служба. Изменение получателя или других реквизитов способно привести к списанию средств, которое отправитель заметит лишь после проверки банковского счёта.

Полиция рекомендует не оставлять чеки на оплату в личных почтовых ящиках, даже если они запираются. Жителям также следует внимательно проверять движения по счетам и своевременно сообщать банку о подозрительных операциях.

Статус расследования

Официальное сообщение не содержало данных о финальном судебном решении и не называло дату предполагаемого разбирательства. Пока речь идёт о выводах полиции и материалах, переданных в прокуратуру.

Читайте также: Другие новости штата Вашингтон.

Continue Reading
Advertisement

В тренде