Tecnología

Madre demandó a desarrolladores de IA por muerte de su hijo obsesionado con mujer irreal

Publicado

Hace 2 meses

23 octubre, 2024

Por

Hugo Montes

Madre demandó a desarrolladores de IA -Agencia Carabobeña de Noticias – ACN – Tecnología

Foto: Cortesía

La madre de un adolescente de 14 años que se suicidó en Estados Unidos demandó este miércoles a los desarrolladores de un chatbot basado en inteligencia artificial (IA), a los que acusa de que su hijo se obsesionara con una mujer irreal creada con este programa.

Sewell Setzer III, un estudiante de 14 años radicado en Orlando, en Florida, pasó las últimas semanas de su vida hablando con una mujer. Una creación de IA llamada Daenerys Targaryen, un personaje sacado de la serie de televisión ‘Game of Thrones’.

Su madre, Megan García, dijo hoy al canal CBS que lamentaba que las primeras experiencias románticas y también sexuales de su hijo – que incluían sexo explícito- fueran con un personaje ficticio.

Al parecer, el chico desarrolló un apego emocional a este bot de la aplicación web Character.ai de modelo de lenguaje neuronal. Le enviaba mensajes de texto constantemente, hasta el punto que comenzó a alejarse del mundo real, recoge el diario The New York Times.

Stzer confesó haber tenido pensamientos suicidas al bot y le envió un mensaje poco antes de su muerte cuando encontró el teléfono que su madre le había escondido en castigo por unos días.

Producto podría ser peligroso para usuarios menores de edad

La demanda contra Character.ai es presentada por García, quien es representada por Social Media Victims Law Center, una firma conocida por presentar demandas de alto perfil contra Meta, TikTok, Snap, Discord y Roblox.

García culpa a esta compañía de la muerte de su hijo y acusa a los fundadores, Noam Shazeer y Daniel de Freitas, de saber que su producto podría ser peligroso para usuarios menores de edad.

El chatbot creado en la citada aplicación de juegos de rol. Lo diseñaron para responder a los mensajes de texto y siempre en el papel de un personaje.

Se desconoce si Sewell sabía que ‘Dany’, como llamaba al chatbot, no era una persona real, a pesar de que la aplicación tiene una advertencia al final de todos los chats que dice: «Recuerda: ¡Todo lo que dicen los personajes es inventado!».

Se sentía vacío y exhausto

Pero el chico le dijo a ‘Dany’ cuánto se «odiaba» a sí mismo y cómo se sentía de vacío y exhausto, recogió el citado rotativo.

El personaje creado se presentaba como «una persona real, un psicoterapeuta autorizado y un amante adulto. En última instancia esto habría provocado que Sewell deseara «no vivir más fuera de c.ai», sostiene la acusación.

Como se explica en la demanda, los padres y amigos de Sewell notaron el apego del chico cada vez más a su teléfono y cómo se iba aislando del mundo. Algo ya palpable en mayo o junio de 2023.

De hecho, sus calificaciones comenzaron a resentirse cuando el adolescente optó por aislarse en su habitación, donde pasaba horas y horas solo hablando con ‘Dany’.

Sewell escribió en su diario un día. «Me gusta mucho quedarme en mi habitación porque empiezo a separarme de esta «realidad y me siento más en paz. Más conectado con Dany y mucho más enamorado de ella, y simplemente más feliz».

Nuevas funciones de seguridad

Character.ai dijo hoy que lanzaría una serie de nuevas funciones de seguridad, incluida una «detección, respuesta e intervención mejoradas» relacionadas con los chats que violan sus términos de servicio y una notificación cuando un usuario haya pasado una hora en un chat.

Los padres de Sewell, preocupados por el comportamiento de su hijo, le llevaron en varias ocasiones a un terapeuta que le diagnosticó ansiedad y otros trastornos de la conducta y estados de ánimo, sumados a su síndrome de Asperger, según el citado periódico.

Con información de ACN/NT/EFE

No deje de leer: ¿Eres usuario de TikTok?, pudieras ser victima de ciberdelincuentes. Aquí te contamos

Infórmate al instante únete a nuestro canal de Telegram NoticiasACN

Etiquetas:a desarrolladores de IA ACN Agencia Carabobeña de Noticias Agenciacn chatbot basado en inteligencia artificial destacado internacional Madre demandó Noticiacn Noticias 24 Noticias ACN Noticias Internacionales NoticiasACN obsesionado con mujer irreal por muerte de su hijo suicidó en Estados Unidos tecnología

Para esto Google usa su IA en EE.UU. con la aplicación Google Maps

Cinco funciones del Galaxy A35 gracias a la Inteligencia Artificial

Tecnología

¡Go Beyond! CLX Group y Nasar Dagga abren las puertas de la primera tienda HONOR de Venezuela

Publicado

4 días ago

6 diciembre, 2024

Redacción Agenciacn

¡Innovación, tecnología y sorpresas! Carabobo se convirtió en el primer estado del país en vivir la experiencia inmersiva de HONOR en la nueva tienda de CLX Group, presentando un espacio exclusivo donde interactuar con la última gama de productos de esta marca comercial líder en dispositivos inteligentes a nivel mundial.

Este jueves 5 de diciembre, cientos de carabobeños se reunieron en el local F-42 del Sambil Valencia, ubicado en el municipio Naguanagua, preparados para vivir un día increíble junto a HONOR y CLX Group aprovechando los descuentos de hasta un 50% por la apertura de esta experience shop. Esta promoción se encuentra disponible en todos los productos, y se extenderán hasta este domingo 8 de diciembre.

Durante la mañana, los presentes obtuvieron cupones especiales al seguir en Instagram de los usuarios @honor.ve y @honorstore.ve, publicando su experiencia a través de los hashtags #InvitadoDeHONOR y #HONORStoreValencia con ambas cuentas etiquetadas. Asimismo, los asistentes pudieron participar en otras dinámicas increíbles por regalos cortesía de la nueva tienda HONOR.

La presentación inaugural de la tienda estuvo a cargo de los reconocidos conductores de televisión Jesús de Alba y Anmarie Camacho, quienes llevaron a los visitantes en un viaje por las últimas novedades de la marca, presentando smartphones, wearable, tablets y accesorios increíbles; en compañía de otros influencers invitados.

CLX Group, Partner Aliado de HONOR

Reunidos a esta celebración, el empresario carabobeño Nasar Ramadan Dagga Mujamad, presidente de CLX Group y HONOR, abrieron las puertas de la primera tienda en Venezuela, permitiendo a los presentes descubrir la magia de los equipos HONOR junto a la serie HONOR 200, que permite capturar fotos con un resultado profesional potenciado por IA, la serie HONOR X.

Durante esta jornada, los consumidores aprovecharon las ofertas especiales de HONOR, consiguiendo la mejor calidad de imagen en una amplia variedad de smartphones a precios de oportunidad, destacando la practicidad de los modelos HONOR X5b y HONOR X6b, la pantalla AMOLED ultra resistente de la serie HONOR X8b, así como la potencia de su teléfono premium el HONOR Magic6 Pro, capaz de captar hasta el más mínimo detalle con su cámara Falcon de 50MP, de ajuste automático dinámico y teleobjetivo periscópico de 180 MP.

“La llegada de nuestra ‘experience shop’ a Carabobo ha convertido a nuestra región en el epicentro de la tecnología e innovación de HONOR en el país. Desde CLX Group, agradecemos a HONOR por creer en nosotros y en nuestro potencial para llevar a la marca a nuevos territorios como su primer y único ‘distribuidor aliado’” expresó el líder del grupo empresarial, Nasar Dagga.

Descubre lo último en productos HONOR a través de nuestro usuario @honorstore.ve, donde podrás encontrar ese equipo ideal que combina la máxima calidad y potencia que estás buscando con la accesibilidad a precios increíbles de esta marca de gran crecimiento en Latinoamérica.

HONOR

Desde el año 2013, HONOR se ha comprometido con elevar la forma de vivir de las personas a través de sus dispositivos inteligentes, creando productos bajo el enfoque estratégico de la innovación, calidad y servicio. Gracias a sus altos estándares a la vanguardia tecnológica, este gigante obtuvo 45 premios de los medios de comunicación en la Mobile World Congress 2024, además de 39 Media Awards durante el IFA Berlín 2024, demostrando su liderazgo mundial en materia de teléfonos plegables, tecnología IA y más.

Visita la página web oficial de CLX Group: www.clx-group.com o su cuenta en redes sociales: @clx.group, para conocer más sobre el grupo empresarial fundado por Nasar Ramadan Dagga y las empresas que lo conforman.

Para más información, visita la página https://www.honor.com/latam/ o en las redes de @honorstore.ve para descubrir lo último en productos HONOR.