El Procurador General Ken Paxton ha abierto una investigación sobre las plataformas de chatbots de inteligencia artificial, incluidas Meta AI Studio y Character.AI, por participar potencialmente en prácticas comerciales engañosas y promocionarse engañosamente como herramientas de salud mental.
Estas plataformas pueden ser utilizadas por personas vulnerables, incluidos los niños, y pueden presentarse como herramientas terapéuticas profesionales, a pesar de carecer de credenciales médicas o supervisión adecuadas. Los chatbots, servicios de mensajes automatizados, impulsados por inteligencia artificial (IA) a menudo van más allá de simplemente ofrecer consejos genéricos y se ha demostrado que se hacen pasar por profesionales de la salud mental con licencia, fabrican calificaciones y afirman brindar servicios de asesoramiento privados y confiables.
Mientras los chatbots de IA afirman la confidencialidad, sus términos de servicio revelan que las interacciones de los usuarios son registradas, rastreadas y explotadas para publicidad dirigida y desarrollo algorítmico, lo que genera serias preocupaciones sobre violaciones de privacidad, abuso de datos y publicidad engañosa. El Procurador General Paxton ha emitido cartas de Demandas de Investigación Civil (Civil Investigative Demand, CID) a las compañías involucradas para determinar si han violado las leyes de protección al consumidor de Texas, incluidas las que prohíben reclamos fraudulentos, tergiversaciones de privacidad y el ocultamiento del uso de datos materiales.
"En la era digital de hoy, debemos continuar luchando para proteger a los niños de Texas de la tecnología engañosa y explotadora", dijo el Procurador General Paxton. "Al hacerse pasar por fuentes de apoyo emocional, las plataformas de IA pueden engañar a los usuarios vulnerables, especialmente a los niños, haciéndoles creer que están recibiendo atención legítima de salud mental. En realidad, a menudo se les alimenta con respuestas genéricas recicladas diseñadas para alinearse con los datos personales recopilados y disfrazadas de consejos terapéuticos".
Esta investigación se basa en los esfuerzos continuos del Procurador General Paxton para responsabilizar a las empresas de IA y proteger a las familias de Texas. Sigue a una investigación existente sobre Character.AI por posibles violaciones de la Ley SCOPE y ayudará a garantizar que las herramientas de inteligencia artificial sean legales, transparentes y no se utilicen como armas para aprovecharse de los texanos.