Речь идет о так называемой ИИ-«приманке».

Sony Interactive Entertainment подала патент на необычную систему безопасности, которая с помощью искусственного интеллекта сможет выявлять потенциально опасных пользователей в онлайн-играх и сервисах. Заявка под номером 18/314775 была опубликована 13 августа 2026 года.

В основе технологии лежит своеобразная ИИ-«приманка». Система создает псевдоаккаунт, который выглядит как настоящий пользователь и имитирует определенную демографическую группу и характер общения. В патенте отдельно рассматривается сценарий, при котором такой аккаунт может имитировать несовершеннолетнего игрока.

Когда подозрительный пользователь начинает взаимодействовать с этим аккаунтом, система анализирует его поведение. Управлять псевдоаккаунтом предлагается с помощью большой языковой модели, например GPT.

По задумке Sony, подобная система должна работать примерно как полицейская операция с приманкой, но в виртуальной среде. При этом сам факт общения с ИИ-аккаунтом не обязательно станет причиной для блокировки. Вместо этого взаимодействие может использоваться как один из признаков подозрительного поведения.

Среди потенциально опасных действий, которые система способна отслеживать, в патенте упоминаются попытки:

• перевести разговор в приватный канал
• получить личную информацию
• связаться с пользователем, который выглядит несовершеннолетним
• отправить неприемлемые сообщения
• обмануть пользователя или выманить у него данные
• заниматься спамом
• демонстрировать поведение, связанное с читерством

Если алгоритм обнаружит подозрительную активность, аккаунт может быть помечен системой для дальнейшего наблюдения. В дальнейшем, когда такой пользователь попытается связаться с реальным игроком, платформа потенциально сможет предупредить его об опасности или принять дополнительные меры защиты.

Сейчас подобные ситуации зачастую требуют жалобы со стороны самого пользователя: например, потенциально опасный человек сначала вступает в контакт с несовершеннолетним, после чего тот или его родители сообщают о нарушении, и только затем платформа начинает расследование. Предлагаемая Sony технология должна позволить обнаруживать подозрительное поведение до того, как потенциальная жертва окажется непосредственно вовлечена в опасное общение.

Хотя в документе значительное внимание уделено защите несовершеннолетних, технология описывается шире. Ее потенциальными целями также являются мошенники, спамеры, читеры и другие пользователи, демонстрирующие антисоциальное или подозрительное поведение.

Источник