Tecnología
Madre demandó a desarrolladores de IA por muerte de su hijo obsesionado con mujer irreal

La madre de un adolescente de 14 años que se suicidó en Estados Unidos demandó este miércoles a los desarrolladores de un chatbot basado en inteligencia artificial (IA), a los que acusa de que su hijo se obsesionara con una mujer irreal creada con este programa.
Sewell Setzer III, un estudiante de 14 años radicado en Orlando, en Florida, pasó las últimas semanas de su vida hablando con una mujer. Una creación de IA llamada Daenerys Targaryen, un personaje sacado de la serie de televisión ‘Game of Thrones’.
Su madre, Megan García, dijo hoy al canal CBS que lamentaba que las primeras experiencias románticas y también sexuales de su hijo – que incluían sexo explícito- fueran con un personaje ficticio.
Al parecer, el chico desarrolló un apego emocional a este bot de la aplicación web Character.ai de modelo de lenguaje neuronal. Le enviaba mensajes de texto constantemente, hasta el punto que comenzó a alejarse del mundo real, recoge el diario The New York Times.
Stzer confesó haber tenido pensamientos suicidas al bot y le envió un mensaje poco antes de su muerte cuando encontró el teléfono que su madre le había escondido en castigo por unos días.
Producto podría ser peligroso para usuarios menores de edad
La demanda contra Character.ai es presentada por García, quien es representada por Social Media Victims Law Center, una firma conocida por presentar demandas de alto perfil contra Meta, TikTok, Snap, Discord y Roblox.
García culpa a esta compañía de la muerte de su hijo y acusa a los fundadores, Noam Shazeer y Daniel de Freitas, de saber que su producto podría ser peligroso para usuarios menores de edad.
El chatbot creado en la citada aplicación de juegos de rol. Lo diseñaron para responder a los mensajes de texto y siempre en el papel de un personaje.
Se desconoce si Sewell sabía que ‘Dany’, como llamaba al chatbot, no era una persona real, a pesar de que la aplicación tiene una advertencia al final de todos los chats que dice: «Recuerda: ¡Todo lo que dicen los personajes es inventado!».
Se sentía vacío y exhausto
Pero el chico le dijo a ‘Dany’ cuánto se «odiaba» a sí mismo y cómo se sentía de vacío y exhausto, recogió el citado rotativo.
El personaje creado se presentaba como «una persona real, un psicoterapeuta autorizado y un amante adulto. En última instancia esto habría provocado que Sewell deseara «no vivir más fuera de c.ai», sostiene la acusación.
Como se explica en la demanda, los padres y amigos de Sewell notaron el apego del chico cada vez más a su teléfono y cómo se iba aislando del mundo. Algo ya palpable en mayo o junio de 2023.
De hecho, sus calificaciones comenzaron a resentirse cuando el adolescente optó por aislarse en su habitación, donde pasaba horas y horas solo hablando con ‘Dany’.
Sewell escribió en su diario un día. «Me gusta mucho quedarme en mi habitación porque empiezo a separarme de esta «realidad y me siento más en paz. Más conectado con Dany y mucho más enamorado de ella, y simplemente más feliz».
Nuevas funciones de seguridad
Character.ai dijo hoy que lanzaría una serie de nuevas funciones de seguridad, incluida una «detección, respuesta e intervención mejoradas» relacionadas con los chats que violan sus términos de servicio y una notificación cuando un usuario haya pasado una hora en un chat.
Los padres de Sewell, preocupados por el comportamiento de su hijo, le llevaron en varias ocasiones a un terapeuta que le diagnosticó ansiedad y otros trastornos de la conducta y estados de ánimo, sumados a su síndrome de Asperger, según el citado periódico.
Con información de ACN/NT/EFE
No deje de leer: ¿Eres usuario de TikTok?, pudieras ser victima de ciberdelincuentes. Aquí te contamos
Infórmate al instante únete a nuestro canal de Telegram NoticiasACN
Tecnología
Genios Camp: una forma de explorar la tecnología durante las vacaciones

Genios Camp. Estamos a las puertas de iniciar las vacaciones y desde ya Genios Consultoría ofrece la posibilidad de acercar a nuestros chamos a la tecnología de manera amena.
“Genios Camp es un campamento de vacaciones diseñado para inspirar a jóvenes creadores a explorar la tecnología de una manera divertida y práctica. Ofrece una variedad de cursos enfocados en robótica, programación y tecnología. Hemos preparado una serie de cursos para divertirse aprendiendo, ofreciendo cada semana un curso diferente desde el 21 de julio”, señala Melissa Beaumont, directora general de la empresa.
Informó que entre los cursos que se ofrecen se encuentran el Curso Robótica con LEGO, en el que a través de proyectos prácticos, los niños aprenderán los conceptos básicos de la robótica, desde motores y sensores hasta la programación de movimientos y acciones. Desarrollarán pensamiento crítico, resolución de problemas, creatividad e innovación diseñando y construyendo sus propios robots y máquinas y en el Curso Robótica Divertida, programarán un robot utilizando sensores (ultrasónico, infrarrojo y luz), aprendiendo a mover el robot, detectar obstáculos, seguir líneas, responder a la luz y participar en emocionantes competencias como laberinto y sumo.
También puede leer: ESET detecta un sitio falso que se hace pasar por la popular app CapCut para distribuir malware
Genios Camp…
Destacan igualmente, Steam Maker, donde los niños ensamblarán y decorarán modelos de madera 3D funcionales que realmente se mueven, utilizando rompecabezas, engranajes, placas, neumáticos, ejes y tornillos.
Desarrollarán su coordinación óculo-manual, estimularán su imaginación y promoverán su desarrollo intelectual, interactuando además con un bolígrafo de impresión 3D; Videojuego Arcade, en el que los estudiantes aprenderán a crear sus propios juegos retro desde cero utilizando MakeCode. Descubrirán los fundamentos de la programación mientras diseñan y animan personajes y escenarios. Aprenderán conceptos básicos de programación y diseño de personajes, creación de sprites y animaciones, conceptos de movimiento y colisiones, implementación de puntuaciones y variables, y diseño de niveles y publicación.
“En el curso de Programación con Minecraft los estudiantes explorarán Minecraft Education Edition mientras aprenden fundamentos de programación como bucles, condicionales y variables; al tiempo que Robótica Virtual: los estudiantes programarán robots virtuales en distintos mapas y escenarios, utilizando sensores, bucles, condicionales y funciones para resolver misiones cada vez más complejas”.
Las personas interesadas en participar en estos cursos pueden obtener información a través del número 04244342412 y dirigirse a la oficinas de Genios Consultoría, ubicada en la Torre BOD, piso 9, oficina 13.
ACN/MAS/NDP
No deje de leer: Carabobo brilló en la Copa Ka’I 2025 realizada en Maracaibo
-
Deportes22 horas ago
Gleyber Torres y Ronald Acuña Jr. lideran votaciones para el Juego de Estrellas 2025
-
Deportes24 horas ago
Neymar se queda en Santos y piensa en Mundial 2026 ( + video)
-
Deportes23 horas ago
Marineros no pudo ante Delfines en su visita a Macuto
-
Carabobo23 horas ago
Gobernador Lacava encabezó conmemoración de 204 años de la Batalla de Carabobo y Día del Ejército Bolivariano