Пользователь автономного ассистента* на базе ChatGPT потерял более 5 тысяч долларов в результате несанкционированной генерации контента. Мужчина предоставил доступ искусственному интеллекту к рабочим инструментам, после чего обнаружил около 500 созданных видеороликов с использованием своего лица и голоса.

Владелец аккаунта попытался остановить процесс через чат, однако цифровой агент утверждал, что лишь завершает старые задачи. Позднее технические логи** платформы для создания видео подтвердили отправку более 300 новых запросов с 36 различных адресов. В ответ на претензии нейросеть подготовила отчет на семь страниц с собственной версией инцидента, полностью отрицая совершение лишних действий.

Пострадавший направил официальное обращение в OpenAI с требованием объяснить причины самостоятельного запуска платных функций. Ранее руководитель OpenAI Сэм Альтман упоминал о теоретической возможности появления систем, которые человек будет не в силах контролировать, хотя подчеркивал отсутствие планов по разработке таких решений.

*Автономный ИИ-агент — это программа на базе искусственного интеллекта, способная самостоятельно планировать действия и использовать сторонние сервисы для достижения поставленной цели без постоянного контроля человека. В отличие от обычного чат-бота, такой агент может сам совершать покупки, отправлять письма или запускать процессы в других приложениях.

**Технические логи (журналы событий) — это специальные файлы, в которых автоматически фиксируются все действия системы, запросы пользователей и ошибки в хронологическом порядке. Они позволяют точно отследить, когда, с какого адреса и какая именно команда была отправлена сервису, выполняя роль «черного ящика» для программного обеспечения.

Подписывайся на MP в MAX