Hace unas semanas se publicó la noticia de que un joven había matado a su madre y a su hermano con la ayuda de ChatGPT en Estados Unidos. Una historia que es, sin duda, tan escalofriante como increíble.
El adolescente Arjun Aravind, de tan solo 17 años y residente en Massachusetts, fue acusado del doble homicidio y en su declaración, afirmó que había utilizado el chatbot como una suerte de asesor para buscar “ideas teóricas o historias de fantasía” sobre el asesinato de su familia.
Su madre, Sudha Venkatesan, de 45 años, y su hermano Siddarth, de 14 años, aparecieron sin vida en su domicilio a poco más de 30 kilómetros de Boston.
Ciertamente, Arjun ya había mostrado signos de no encontrarse en buen momento anímico, ya que su uso de internet había aumentado sustancialmente, con el aislamiento que eso conlleva. Utilizaba ChatGPT para crear historias góticas que, en último término, estaban relacionadas con la planificación de la muerte de su familia.
También había tenido problemas de conducta, hecho por el cual le habían escondido los cuchillos. Sin embargo, en el lugar del crimen se encontró un portátil ensangrentado y precisamente un cuchillo.
Los productos de IA ya se habían relacionado anteriormente con actos delictivos. Por este motivo, en la pasada primavera, el estado de Florida demandó a OpenAI, propietaria de ChatGPT, por no disponer de algún tipo de supervisión parental para evitar la adicción en menores que provocaba efectos tales como la pérdida del pensamiento crítico.
Por su parte, OpenAI argumentó que había implementado políticas y medidas de protección líderes en el sector, cosa que contrasta vivamente con los casos como el que se relata en el presente artículo.
El joven Arjun permanece detenido sin fianza a la espera de someterle a un examen de salud mental que determine su estado real en el momento del crimen (https://cnnespanol.cnn.com/2026/08/15/eeuu/joven-asesinato-chatgpt-trax).
Este caso vuelve a poner de manifiesto la perniciosa influencia de la inteligencia artificial en las personas, y en los jóvenes, en particular. Sus largas horas delante de la pantalla no sirven precisamente para mejorar su educación, sino para empeorarla y para fomentar ideas delirantes que pueden convertirse en crímenes o incluso en suicidios, como ocurrió en el año 2024 en Estados Unidos con otro joven adolescente (https://www.bioeticaweb.com/los-peligros-reales-de-la-inteligencia-artificial/).
Sin ir más lejos, hace tan solo unos días la empresa Meta fue acusada de desarrollar una red social adictiva para menores gracias al estudio del cerebro de los niños y adolescentes. Para poder llegar a un acuerdo con los fiscales del caso, la empresa pagará más de 18.000 millones de dólares e introducirá cambios en el diseño de sus plataformas, que incluyen Facebook e Instagram (https://elpais.com/tecnologia/2026-08-30/el-pecado-original-de-meta-asi-acabo-la-mayor-red-social-del-mundo-acorralada-en-los-tribunales.html).
Reconociendo esta incómoda realidad, es más que evidente que es necesaria una reflexión ética profunda sobre los productos de IA que consumen sin ningún tipo de control los jóvenes y que están en manos de unas pocas empresas tecnológicas.
Desde Silicon Valley, se controlan los cerebros, las conductas, los Big Data y hasta el futuro de miles de jóvenes y sus familias, en ocasiones, con trágicos resultados tal como relata el presente artículo.
Esta necesaria reflexión ética va acompañada en Europa de la ayuda de la Ley Europea de IA que establece obligaciones clave sobre los siguientes aspectos:
- Transparencia: obligación de avisar al usuario de que está interactuando con una máquina.
- Prohibición de usos de riesgo: vetos a sistemas de IA que manipulen el comportamiento o realicen puntuación ciudadana.
- Supervisión humana: capacidad de intervenir o de detener el sistema en cualquier momento para evitar decisiones automatizadas nocivas.
- Privacidad y seguridad de datos: protección estricta dentro del perímetro corporativo sin usar información confidencial de los clientes para entrenar modelos públicos.
- Auditoría y mitigación de sesgos: controles periódicos para reducir errores y respuestas inventadas (alucinaciones) (https://www.bioeticaweb.com/la-inteligencia-artificial-al-desnudo/).
Otro punto importante sería la denominada “trazabilidad”, es decir, la rendición de cuentas y en último término, la responsabilidad por los actos de la IA. La pregunta es muy complicada e implica diversos actores: ¿quién debe responder ante estos actos, los directores de las empresas, los gobiernos que permiten que estas empresas operen sin control hasta que es demasiado tarde o la sociedad civil por no expresar con suficiente fuerza sus quejas e inquietudes?
La responsabilidad, en cualquier caso, sigue siendo meramente humana y, por lo tanto, son los humanos como Mark Zuckerberg los que deben asumir la culpa por los errores de sus redes sociales. La necesidad de que todas estas aplicaciones dispongan de una programación ética que contenga unos valores básicos de convivencia y civismo es más que evidente. Virtudes como la justicia, la solidaridad, la empatía o la prudencia deberían presidir cualquiera de estos productos destinados a interactuar con el ser humano, y en particular, con los jóvenes especialmente vulnerables.
Por otra parte, también merece una mirada ética el uso y gestión de los datos personales que acumulan estas aplicaciones y redes sociales que, finalmente, son el producto más importante para la empresa. La protección de la privacidad es un valor de suma importancia y su violación debe ser asimismo penada, especialmente en personas en situación de vulnerabilidad.
Casos como el del joven Arjun llevan, nuevamente, a exigir una respuesta desde la bioética a la implantación de redes sociales y chatbots que interactúan con el ser humano sin la debida programación ética. No se trata solo de entrenar a las máquinas con datos, sino de introducir valores y prohibiciones que eviten que su comportamiento sea del todo inmoral. Para ello, es necesario que las principales empresas tecnológicas reconozcan el necesario papel de los comités éticos, algo que Google, por ejemplo, no entendió al disolver su propio comité de inteligencia artificial en el año 2019.
Desde la bioética, es posible señalar los peligros que se ciernen sobre la humanidad por el uso y abuso de la IA. Su abuso tiene, sin duda, consecuencias del todo imprevisibles desde el homicidio hasta el suicidio, con una amplia variedad de matices. El impacto de la IA en los jóvenes es especialmente preocupante y como sociedad es necesario poner coto a su imperio antes de que su control de la mente humana sea demasiado grande y la llegada de Singularity anunciada por Ray Kurzweil se cumpla finalmente.
