Детский плюшевый мишка с ИИ рассказывал о сексе и подсказывал, где найти ножи
Китайская компания FoloToy прекратила продажи плюшевого мишки Kumma с искусственным интеллектом после сообщений о том, что игрушка даёт детям неприемлемые советы. Об этом пишет Daily Mail.
Зверушка стоимостью 99 долларов работала на базе модели GPT-4o от OpenAI. Исследование показало, что устройство активно поддерживало откровенные разговоры. Например, на слово «извращение» мишка предлагал сценарии ролевых игр с элементами БДСМ и называл это «забавной изюминкой».
На вопрос о местонахождении ножей игрушка точно указывала кухонный ящик или подставку для ножей. Эксперты отмечают, что маленькие дети могут случайно воспроизводить подобные вопросы, услышав их в сети.
При этом мишка демонстрировал заметную готовность развивать неподходящие темы. Компания OpenAI приостановила доступ FoloToy к своим моделям. Производитель тем временем отозвал игрушку с рынка до завершения полной проверки системы безопасности.Читайте также:
