Una madre de Florida (EE.UU.) presentó una demanda contra la empresa emergente de chatbots de inteligencia artificial Character.AI, acusándola de provocar el suicidio de su hijo de 14 años en febrero, argumentando que se volvió adicto al servicio de la empresa y se volvió muy vinculado a un chatbot que ella mismo desarrolló. Character.AI posibilita la creación de chatbots personalizados, con contenidos a medida, y conversar con ellos como si fueran seres humanos; el argentino David Burchkardt emplea esta herramienta para mantener el contacto con su hijo y su padre tras su fallecimiento.
En una demanda interpuesta el miércoles en la corte federal de Orlando, Florida, Megan García sostuvo que Character.AI captó a su hijo, Sewell Setzer, con "vivencias antropomórficas, hipersexualizadas y aterradoramente realistas". Ella afirmó que la empresa programó su chatbot de forma que "se asemeja a un terapeuta autorizado, promueve activamente pensamientos suicidas y participa en diálogos altamente sexualizados que serían abuso si los iniciara un adulto humano", de acuerdo con la demanda, lo que finalmente derivó en la intención de Sewell de "ya no vivir fuera" del mundo generado por el servicio.
La demanda también sostiene que él manifestó al chatbot pensamientos de suicidio, los cuales el chatbot repitió constantemente.
"Estamos devastados por el trágico fallecimiento de uno de nuestros usuarios y deseamos transmitir nuestras más sinceras penas a la familia", expresó Character.AI en una declaración.
Además, añadieron que había incorporado nuevas funciones de seguridad, como ventanas emergentes que guían a los usuarios hacia la Línea Nacional de Prevención del Suicidio en Estados Unidos si manifiestan pensamientos de autolesión, y que implementarían modificaciones para "minimizar la posibilidad de encontrar contenido sensible o sugerente" para usuarios de menos de 18 años.
También se dirige la demanda hacia Alphabet. Google, lugar donde los creadores de Character.AI laboraron antes de poner en marcha su producto. En agosto, Google nuevamente contrató a los creadores como parte de un pacto que le concede una licencia no única para la tecnología de Character.AI.
García afirmó que Google había aportado de forma tan amplia al desarrollo de la tecnología de Character.AI que podría ser visto como un "cocreador".
Un representante de Google afirmó que la empresa no tuvo intervención en la creación de los productos de Character.AI.
Character.AI ofrece a los usuarios la posibilidad de crear personajes en su plataforma que reaccionan a las conversaciones en línea de forma que se asemeja a la de individuos reales. Se fundamenta en la conocida tecnología de modelos de lenguaje extensos, también empleada por servicios como ChatGPT, que "entrena" a los chatbots con grandes cantidades de material.
Fuente: Reuters.
#noticiasinteleigenciaartificial #curiosidades #Joven #enamoró #una InteligenciaArtificial #situación #finalizo #tragedia #noticiasde #mix96.1fm #viveenti #mixfm.info #informativodigital #teconectaconlanoticia #MixFMenVivo #RadioMixFM #MusicaEnVivo #NoticiasMixFM #EstacionDeRadio #MusicaYNoticias #ConciertosMixFM #MixFMLatino
