Разработчики систем искусственного интеллекта в России должны будут предупреждать пользователей о недопустимости применения нейросетей* для манипулирования поведением человека. Соответствующая норма содержится в законопроекте, с которым ознакомились «Известия», сообщает Frank Media

Под эксплуатацией уязвимостей понимается использование различных состояний людей для целенаправленного воздействия на их решения или получения несанкционированного доступа к информации. При этом документ не содержит конкретных примеров подобных действий и не уточняет ответственность за нарушения. Ограничения коснутся операторов** и разработчиков нейросетей, а также компаний, которые используют данные о предпочтениях клиентов для настройки рекламы.

Эксперты отмечают, что реализовать запрет на манипуляцию будет сложно из-за многообразия сценариев диалогов с ИИ. Кроме того, нормы не распространяются на сферу обороны, что создает риски использования гражданских разработок в военных целях. Эффективность мер будет зависеть от расположения офиса компании: российское руководство внедрит необходимые протоколы, тогда как на зарубежные филиалы повлиять будет затруднительно.

*Нейросеть — это обучаемая математическая модель, построенная по принципу организации биологических нейронных сетей живого организма. Она способна анализировать сложные данные, распознавать образы и генерировать контент, имитируя работу человеческого мозга при решении задач.

**Оператор — это юридическое или физическое лицо, которое использует систему искусственного интеллекта и определяет цели обработки данных. В отличие от разработчика, создающего технологию, оператор внедряет её в процессы и несет ответственность за непосредственное взаимодействие с пользователями.

Подпишись на MP в MAX