Conéctese con nosotros

Tecnología

Madre demandó a desarrolladores de IA por muerte de su hijo obsesionado con mujer irreal

Publicado

el

Madre demandó a desarrolladores de IA -Agencia Carabobeña de Noticias – ACN – Tecnología
Foto: Cortesía
Compartir

La madre de un adolescente de 14 años que se suicidó en Estados Unidos demandó este miércoles a los desarrolladores de un chatbot basado en inteligencia artificial (IA), a los que acusa de que su hijo se obsesionara con una mujer irreal creada con este programa.

Sewell Setzer III, un estudiante de 14 años radicado en Orlando, en Florida, pasó las últimas semanas de su vida hablando con una mujer. Una creación de IA llamada Daenerys Targaryen, un personaje sacado de la serie de televisión ‘Game of Thrones’.

Su madre, Megan García, dijo hoy al canal CBS que lamentaba que las primeras experiencias románticas y también sexuales de su hijo – que incluían sexo explícito- fueran con un personaje ficticio.

Al parecer, el chico desarrolló un apego emocional a este bot de la aplicación web Character.ai de modelo de lenguaje neuronal. Le enviaba mensajes de texto constantemente, hasta el punto que comenzó a alejarse del mundo real, recoge el diario The New York Times.

Stzer confesó haber tenido pensamientos suicidas al bot y le envió un mensaje poco antes de su muerte cuando encontró el teléfono que su madre le había escondido en castigo por unos días.

Producto podría ser peligroso para usuarios menores de edad

La demanda contra Character.ai es presentada por García, quien es representada por Social Media Victims Law Center, una firma conocida por presentar demandas de alto perfil contra Meta, TikTok, Snap, Discord y Roblox.

García culpa a esta compañía de la muerte de su hijo y acusa a los fundadores, Noam Shazeer y Daniel de Freitas, de saber que su producto podría ser peligroso para usuarios menores de edad.

El chatbot creado en la citada aplicación de juegos de rol. Lo diseñaron para responder a los mensajes de texto y siempre en el papel de un personaje.

Se desconoce si Sewell sabía que ‘Dany’, como llamaba al chatbot, no era una persona real, a pesar de que la aplicación tiene una advertencia al final de todos los chats que dice: «Recuerda: ¡Todo lo que dicen los personajes es inventado!».

Se sentía vacío y exhausto

Pero el chico le dijo a ‘Dany’ cuánto se «odiaba» a sí mismo y cómo se sentía de vacío y exhausto, recogió el citado rotativo.

El personaje creado se presentaba como «una persona real, un psicoterapeuta autorizado y un amante adulto. En última instancia esto habría provocado que Sewell deseara «no vivir más fuera de c.ai», sostiene la acusación.

Como se explica en la demanda, los padres y amigos de Sewell notaron el apego del chico cada vez más a su teléfono y cómo se iba aislando del mundo. Algo ya palpable en mayo o junio de 2023.

De hecho, sus calificaciones comenzaron a resentirse cuando el adolescente optó por aislarse en su habitación, donde pasaba horas y horas solo hablando con ‘Dany’.

Sewell escribió en su diario un día. «Me gusta mucho quedarme en mi habitación porque empiezo a separarme de esta «realidad y me siento más en paz. Más conectado con Dany y mucho más enamorado de ella, y simplemente más feliz».

Nuevas funciones de seguridad

Character.ai dijo hoy que lanzaría una serie de nuevas funciones de seguridad, incluida una «detección, respuesta e intervención mejoradas» relacionadas con los chats que violan sus términos de servicio y una notificación cuando un usuario haya pasado una hora en un chat.

Los padres de Sewell, preocupados por el comportamiento de su hijo, le llevaron en varias ocasiones a un terapeuta que le diagnosticó ansiedad y otros trastornos de la conducta y estados de ánimo, sumados a su síndrome de Asperger, según el citado periódico.

Con información de ACN/NT/EFE

No deje de leer: ¿Eres usuario de TikTok?, pudieras ser victima de ciberdelincuentes. Aquí te contamos

Infórmate al instante únete a nuestro canal de Telegram NoticiasACN

Tecnología

Genios Camp: una forma de explorar la tecnología durante las vacaciones

Publicado

el

Genios Camp - Agencia Carabobeña de Noticias
Las vacaciones son una oportunidad de aprender de forma divertida.
Compartir

Genios Camp. Estamos a las puertas de iniciar las vacaciones y desde ya Genios Consultoría ofrece la posibilidad de acercar a nuestros chamos a la tecnología de manera amena.

“Genios Camp es un campamento de vacaciones diseñado para inspirar a jóvenes creadores a explorar la tecnología de una manera divertida y práctica. Ofrece una variedad de cursos enfocados en robótica, programación y tecnología. Hemos preparado una serie de cursos para divertirse aprendiendo, ofreciendo cada semana un curso diferente desde el 21 de julio”, señala Melissa Beaumont, directora general de la empresa.

Informó que entre los cursos que se ofrecen se encuentran el Curso Robótica con LEGO, en el que a través de proyectos prácticos, los niños aprenderán los conceptos básicos de la robótica, desde motores y sensores hasta la programación de movimientos y acciones. Desarrollarán pensamiento crítico, resolución de problemas, creatividad e innovación diseñando y construyendo sus propios robots y máquinas y en el Curso Robótica Divertida, programarán un robot utilizando sensores (ultrasónico, infrarrojo y luz), aprendiendo a mover el robot, detectar obstáculos, seguir líneas, responder a la luz y participar en emocionantes competencias como laberinto y sumo.

También puede leer: ESET detecta un sitio falso que se hace pasar por la popular app CapCut para distribuir malware

Genios Camp…

Genios Camp - Agencia Carabobeña de NoticiasDestacan igualmente, Steam Maker, donde los niños ensamblarán y decorarán modelos de madera 3D funcionales que realmente se mueven, utilizando rompecabezas, engranajes, placas, neumáticos, ejes y tornillos.

Desarrollarán su coordinación óculo-manual, estimularán su imaginación y promoverán su desarrollo intelectual, interactuando además con un bolígrafo de impresión 3D; Videojuego Arcade, en el que los estudiantes aprenderán a crear sus propios juegos retro desde cero utilizando MakeCode. Descubrirán los fundamentos de la programación mientras diseñan y animan personajes y escenarios. Aprenderán conceptos básicos de programación y diseño de personajes, creación de sprites y animaciones, conceptos de movimiento y colisiones, implementación de puntuaciones y variables, y diseño de niveles y publicación.

“En el curso de Programación con Minecraft los estudiantes explorarán Minecraft Education Edition mientras aprenden fundamentos de programación como bucles, condicionales y variables; al tiempo que Robótica Virtual: los estudiantes programarán robots virtuales en distintos mapas y escenarios, utilizando sensores, bucles, condicionales y funciones para resolver misiones cada vez más complejas”.

Las personas interesadas en participar en estos cursos pueden obtener información a través del número 04244342412 y dirigirse a la oficinas de Genios Consultoría, ubicada en la Torre BOD, piso 9, oficina 13.

ACN/MAS/NDP

No deje de leer: Carabobo brilló en la Copa Ka’I 2025 realizada en Maracaibo

Infórmate al instante únete a nuestros canales 

WhatsApp ACN – Telegram NoticiasACN – Instagram acn.web – TikTok _agenciacn – X agenciacn

Continue Reading

Suscríbete a nuestro boletín

Publicidad

Carabobo

Publicidad

Sucesos

Facebook

Publicidad

Lo más leído