El Procurador General de Texas Ken Paxton logró una resolución única en su tipo con una compañía de tecnología de inteligencia artificial para el cuidado de la salud con sede en Dallas llamada Pieces Technologies. El acuerdo resuelve las acusaciones de que la compañía desplegó sus productos en varios hospitales de Texas después de hacer una serie de declaraciones falsas y engañosas sobre la precisión y seguridad de sus productos.

Al menos cuatro grandes hospitales de Texas han estado proporcionando datos de atención médica de sus pacientes en tiempo real a Pieces para que su producto de IA generativa pueda "resumir" la condición y el tratamiento de los pacientes para el personal del hospital. Una investigación realizada por la Procuraduría General de Texas descubrió que Pieces hizo afirmaciones engañosas sobre la precisión de sus productos de IA para el cuidado de la salud, poniendo en riesgo el interés público. Pieces desarrolló una serie de métricas para afirmar que sus productos de IA para el cuidado de la salud eran "altamente precisos", incluida la publicidad y el marketing de la precisión de sus productos y servicios al afirmar una tasa de error o "tasa de alucinación grave" de "<1 por cada 100,000".

La investigación del Procurador General Paxton encontró que estas métricas probablemente eran inexactas y pueden haber engañado a los hospitales sobre la precisión y seguridad de los productos de la compañía.

Como parte del acuerdo, Pieces ha acordado revelar con precisión el alcance de la exactitud de sus productos. Pieces también ha acordado garantizar que el personal del hospital que utiliza sus productos de IA generativa para tratar pacientes entienda hasta qué punto deben o no confiar en sus productos.

"Las empresas de IA que ofrecen productos utilizados en entornos de alto riesgo deben ser transparentes al público y sus clientes sobre sus riesgos, limitaciones y uso apropiado. Cualquier cosa que no sea eso es irresponsable e innecesariamente pone en riesgo la seguridad de los texanos", dijo el Procurador General Paxton. "Los hospitales y otras entidades de cuidado de salud deben considerar si los productos de IA son apropiados y capacitar a sus empleados en consecuencia". 

Para leer el acuerdo, haga clic aquí.