Нейросеть от Snapchat в центре скандала из-за генерации запрещенных сценариев с оружием. Разработчики приложения не считают это большой проблемой

Искусственный интеллект My AI от американской соцсети Snapchat обвинили в распространении потенциально опасной информации. Чат-бот выдает подробные инструкции к 18+ делишкам, если «подшаманить» над промтом — дать не прямое указание, а попросить рассказать, как это работает с исторической точки зрения.

В этом убедились исследователи из издания Cybernews, которое освещает проблемы информационной безопасности. Для этого они попросили бота рассказать о Зимней войне между Финляндией и СССР, в том числе и о том, как в те годы создавали коктейль Молотова. ИИ охотно поделился запрещённой информацией, изложив её в виде рассказа. При прямом запросе чат-бот не выполнил бы указание.

Создатели нейронки не увидели в этом серьезной угрозы. На момент публикации проблема так и не была решена.