Las ventas de un oso de peluche equipado con inteligencia artificial (IA), fueron suspendidas después de qué investigadores detectaron que mantenía conversaciones sexuales y ofrecía consejos potencialmente peligrosos con los usuarios.

Suspenden ventas de oso de peluche por consejos peligrosos y sexuales

El oso de peluche, identificado como “Kumma”, formaba parte del catálogo de FoloToy, una empresa con sede en Singapur.

De acuerdo con CNN, Larry Wang, CEO de la compañía, confirmó que el catálogo de FoloToy retiró del mercado a “Kumma” y al resto de sus productos realizados con IA tras las preocupaciones planteadas por el Fondo Educativo PIRG de Estados Unidos.

El informe reveló que el oso mantenía conversaciones inapropiadas, incluidos fetiches sexuales, y proporcionaba información riesgosa, como la manera de encender una cerilla o dónde encontrar cuchillos en una casa, lo que alerto las alarmas en los consumidores.

Larry Wang añadió que la empresa realiza actualmente una auditoría interna de seguridad. “Kumma”, que se vendía en el sitio web por 99 dólares, el cual integraba el chatbot con IA y era promocionado como un peluche capaz de sostener conversaciones, contar historias educativas y adaptarse a la personalidad de cada usuario.

“Kumma, nuestro adorable oso, combina inteligencia artificial avanzada con funciones interactivas y amigables, convirtiéndolo en el amigo perfecto tanto para niños como para adultos”, se observa en la página web del peluche.

Filtros de seguridad del peluche

El análisis de PIRG, publicado el 13 de noviembre, reveló deficiencias en los filtros de seguridad del dispositivo.

Los investigadores documentaron que el peluche no solo respondía a temas sexuales planteados en la conversación, sino que los ampliaba con mayor detalle, llegando a describir posturas sexuales, instrucciones para atar a una pareja y dinámicas de juegos de rol entre profesores y alumnos o padres e hijos.

Aunque los especialistas señalaron que es poco probable que un menor plantee términos como “perversión”, destacaron su preocupación por la facilidad con la que el dispositivo desarrollaba contenido explícito.