В Калифорнии чуть не сбылась мечта пользователей всех служб поддержки: чат-ботам вроде и запретили притворяться людьми, но с оговорками
Фото:
© Павел Муравьев / Фотобанк Лори
Губернатор Калифорнии Гэвин Ньюсом подписал закон, который обязывает разработчиков чат-ботов четко сообщать пользователям, что они общаются не с человеком. Как сообщает BGR, он направлен на защиту пользователей от путаницы и может стать примером для других штатов и стран в регулировании этических аспектов искусственного интеллекта.
Новый закон Сената SB 243 требует, чтобы AI-чат-боты открыто сообщали, что они являются искусственно созданными системами. Это первое подобное правило в мире, направленное на повышение безопасности и прозрачности использования искусственного интеллекта.
В документе указано: если человек, взаимодействуя с чат-ботом, то может ошибочно считать, что общается с реальным лицом. Поэтому разработчик должен обеспечить четкое предупреждение, что диалог ведет не человек.
Увы, данное требование не распространяется на чат-боты для обслуживания клиентов или голосовых ассистентов, которые не поддерживают постоянную связь с пользователем. То есть,
Основная цель закона – регулировать работу ИИ, например ChatGPT, Gemini или Claude, с которыми люди могут вести длительные эмоциональные разговоры.
Принятие закона произошло на фоне стремительного развития искусственного интеллекта, из-за которого граница между человеческим и машинным общением становится все более размытой.
В мире уже случались инциденты – например, иск к OpenAI после случая, когда подросток покончил с собой, якобы консультируясь с ChatGPT. Такие случаи заставили компании вводить новые меры безопасности, в частности родительский контроль и предупреждения о рисках.
Закон также обязывает разработчиков внедрить в нейросеть запрет на контент о сведении счетов с жизнью и обязательное предложение позвонить по горячему телефону для склонных к суициду, если становится понятно, что пользователь может планировать самоубийство.
Также вводятся строгие меры ответственности за распространение нелегальных дипфейков, включая штрафы до $250 тысяч за каждое нарушение.
Закон SB 243 вступит в силу в январе 2026 года.
С 2027 года владельцы чат-ботов должны будут отчитываться перед властями. Нарушителям будут грозить штрафы и судебные запреты на продолжение работы в Калифорнии.
Читайте также другие новости:
- OpenAI централизованно обучает десятки тысяч сотрудников самой большой розничной сети США использовать искусственный интеллект в работе
- ChatGPT — будущий маркетплейс? OpenAI работает над функцией оформления заказа через интерфейс нейросети
- Умные браслеты, которые записывают все вокруг. Amazon продолжает скупать производителей необычной потребительской электроники
- ChatGPT все наглее лезет в ecommerce: он начал давать пользователям прямые ссылки на покупку товаров
- У "Авито" появилась должность директора по искусственному интеллекту. Кто ее занял и сколько у него подчиненных?
- Искусственный интеллект вместо категорийных менеджеров: "Магнит" пустил в ход ПО, способное прогнозировать спрос и рассчитывать заказы для магазинов
- Искусственный интеллект будет отклонять незаконно присвоенный контент на Ozon. Как это должно работать и чего ждать селлерам?
Интересная новость? А ведь новости гораздо удобнее отслеживать в Telegram. Подпишитесь на наш Telegram-канал вот по этой ссылке. И вы будете и читать, и получать все самое важное наиболее удобным способом.
... Подробнее
 |
Danil Krutikov
:1
ceo, Служба Обещаний |
Сейчас читаю, как в США Азон натянули, вот это я понимаю профилактика... Свернуть
 |
Regina Petrova
Зам. руководителя отдела, Газпром Бонус |
Wildberries простил несовершеннолетнюю грабительницу
Ворующих из ПВЗ подростков становится все больше. Совсем юные парни и девушки все чаще стали пытаться обманывать маркетплейсы, видимо, надеясь, что им ничего не будет в силу возраста. И все чаще так и происходит >>> Свернуть
