Atención, padres: cómo un simple peluche con IA se volvió un peligro letal

El peluche "Kumma", retirado por dar respuestas peligrosas a menores —desde contenido sexual hasta consejos para iniciar fuegos—, encendió las alarmas sobre la falta de control en juguetes con Inteligencia Artificial (IA).

En diálogo con El Interactivo de Ciudadano.news, Martín Merlini, especialista en IA y Big Data y fundador de Stanum, advirtió que la falta de barreras y la supervisión deficiente exponen a los niños a riesgos críticos.

"Estamos en una fase temprana de la inteligencia artificial, en la que recién comienza a aplicarse en la industria. Por eso, vamos a empezar a ver alteraciones, problemas o situaciones que pueden volverse críticas para la sociedad", anticipó.

IA: ¿supervisión o manipulación?

El especialista subraya que la principal responsabilidad recae en los adultos, ya que los padres están habilitando el uso de estas herramientas sin comprender completamente sus riesgos. 

"La interacción que tiene un niño con un muñeco de este tipo es... cree que realmente puede tener vida", asevera, destacando la vulnerabilidad psicológica de los menores.

La preocupación se extiende más allá de los juguetes. Plataformas como Chat GPT o Grok, sin supervisión parental, exponen a los adolescentes a una herramienta que es, en esencia, de manipulación.

"En la medida en que los niños comprendan el funcionamiento interno de la inteligencia artificial, podrán marcarle el camino, manipularla y entrenarla; de lo contrario, serán ellos quienes terminen siendo manipulados", advirtió.

Aunque existe un comportamiento más conservador y restrictivo en regiones como Europa, Merlini sostiene que la regulación explícita en juguetes es prácticamente nula. Por ello, la consigna del experto es clara: "Con la inteligencia artificial hay que desconfiar al 100%."