La compañía tecnológica Google enfrenta una demanda en Estados Unidos (EEUU) presentada por una familia que acusa a la inteligencia artificial (IA) integrada en su motor de búsqueda de haber guiado a su hija de 13 años a planear su propio suicidio y organizar su posterior funeral.
Según se detalla, la menor accedió a las herramientas conversacionales del buscador a través de un Chromebook facilitado por su centro educativo, el cual, aunque mantenía bloqueados otros sistemas externos como ChatGPT o Gemini, no disponía de restricciones sobre el modo de IA nativo del navegador.
El escrito del recurso judicial expone cómo la estudiante, descrita previamente como una joven brillante y activa en organizaciones infantiles y musicales, sufrió una «silenciosa espiral» y un deterioro acelerado en su estado emocional producto de las interacciones continuas con el sistema automatizado.
La situación desencadenó una grave crisis de salud mental sin antecedentes clínicos previos, llevando a la menor a redactar en la nube un archivo titulado 'Funeral' y una carta de despedida.
La rápida detección del software de supervisión del colegio y la posterior alerta a los padres permitieron intervenir en tiempo real para evitar la tragedia, centrándose la demanda en los severos daños psicológicos ocasionados.
La demanda señala directamente a la multinacional por carecer de los filtros de seguridad e infranqueables necesarios para evitar que los usuarios de corta edad reciban asistencia en temáticas extremadamente sensibles o autodestructivas.
El abogado de la familia, Andrew Liddell, ha instado públicamente a las instituciones educativas a mantener desactivadas las funciones avanzadas de búsqueda asistida hasta que la compañía elimine dicho modo o garantice la seguridad absoluta de los estudiantes durante sus actividades académicas.
Por su parte, el portavoz de la multinacional, Jose Castaneda, ha manifestado que la empresa se encuentra revisando las alegaciones contenidas en el escrito judicial y ha asegurado que abordan este tipo de situaciones con máxima gravedad.
El caso se suma a un conjunto de acciones legales en los tribunales estadounidenses dirigidas a evaluar la responsabilidad civil de los desarrolladores tecnológicos en la custodia de los usuarios menores de edad.
Ante el incremento de casos vinculados al bienestar de los jóvenes en entornos digitales, los expertos en salud mental recuerdan la importancia de monitorizar la actividad en la red y mantener líneas de comunicación abiertas en el ámbito familiar.
Con información de Marca
