Es una realidad que desde hace un buen momento, la Inteligencia Artificial (IA) pasó de ser un elemento que solo mirábamos lejanos, a convivir co cada uno de nosotros. Este sistema hoy en día se encuentra integrado en vehículos, herramientas médicas, sistemas laborales e incluso en productos de consumo cotidiano. A medida que estas tecnologías se vuelven más autónomas, surge una pregunta jurídica compleja: ¿Quién es responsable cuando la IA causa daños? Y la pregunta consecuente es: ¿se puede presentar una demanda por lesiones personales por accidentes relacionados con la IA en Nueva York?
Para darte respiro, debes saber que en verdad sí. Sin embargo, para lograr la indemnización se deben seguir pasos algo complicados. Para lograr un resultado correcto, hay que abordar muchos aspectos a tomar en cuenta.
Cómo funciona un reclamo por lesiones causadas por IA en Nueva York
Legalmente, un reclamo por lesiones causadas por IA es un caso de lesiones personales. Como parte lesionada, usted debe demostrar que la negligencia o el producto defectuoso de otra entidad le causaron un daño.
Ahora bien, si ha sido la IA, ¿Quién responde por ella? Podrían ser:
- Desarrolladores que diseñan los algoritmos.
- Fabricantes que integran la IA en los productos.
- Empresas que implementan y mantienen los sistemas.
- Usuarios finales que confían en la tecnología.
Teorías legales aplicables en Nueva York
Nueva York aún no cuenta con un estatuto único que regule la responsabilidad de la IA. En su lugar, los tribunales se apoyan en doctrinas jurídicas establecidas para llevarlo a la IA.
Negligencia
La negligencia sigue siendo la teoría legal más común en los casos que involucran lesiones personales causadas por IA. Para tener éxito, usted debe demostrar que:
- El demandado le debía un deber de cuidado.
- El demandado incumplió ese deber.
- El incumplimiento provocó su lesión.
- Usted sufrió daños y perjuicios a causa de dicha lesión.
Los casos de negligencia en inteligencia artificial suelen implicar:
- Diseño deficiente del sistema.
- Pruebas o testeos inadecuados.
- Falta de monitoreo de los resultados (outputs) de la IA.
- Ausencia de una supervisión humana adecuada.
Por ejemplo, podría ser posible demandar a una empresa de IA por no actuar de manera razonable si implementa un sistema de seguridad impulsado por IA sin las salvaguardas adecuadas y el sistema falla.
Responsabilidad vicaria
En algunos casos, la responsabilidad vicaria (responsabilidad por el hecho de otro) puede aplicarse a los empleadores o empresas que utilizan sistemas de IA. Por ejemplo: Aquella empresa que usa una herramienta de IA y generó un daño, podría ser considerada la responsable.
El Proyecto de Ley del Senado SB S7263 se enfoca específicamente en la responsabilidad de tipo vicario para los operadores de chatbots, y se aplica a cualquier negocio (propietario) que implemente un chatbot. Si un chatbot ofrece asesoramiento profesional sustancial (médico, legal o financiero) que derive en un daño, el proyecto de ley permite hacer responsable al propietario. La propuesta estipula explícitamente que los propietarios no pueden eximirse de responsabilidad por el simple hecho de advertir a los usuarios que sus bots funcionan con IA.
Responsabilidad por productos defectuosos
La legislación de Nueva York a menudo trata a los sistemas de IA como productos, lo que abre la puerta a reclamos por responsabilidad de productos. Estos pueden centrarse en:
- Defectos de diseño: El sistema de IA era intrínsecamente inseguro.
- Defectos de fabricación: Ocurrieron errores durante la producción o la codificación.
- Falta de advertencia: No se informó adecuadamente a los usuarios sobre los riesgos.
A diferencia de la negligencia, la responsabilidad estricta por productos defectuosos no siempre requiere demostrar descuido; solo es necesario probar que el producto era defectuoso y que causó el daño.
Escenarios de la vida real donde la IA puede causar lesiones
Dado que la inteligencia artificial sigue ganando terreno en diferentes aspectos de nuestra vida, las lesiones relacionadas con la IA ya no son hipotéticas. Desde el transporte y la atención médica hasta los lugares de trabajo y los productos de consumo, la IA toma cada vez más decisiones que impactan directamente en la seguridad humana.
Hay que tener en cuenta que cuando fallan, las consecuencias pueden ser graves para una persona.
Accidentes de vehículos autónomos
Los vehículos autónomos o semiautónomos dependen de la IA para tomar decisiones en fracciones de segundo. Si la IA genera un accidente por mala lectura de datos, la responsabilidad puede caer en:
- El fabricante del vehículo.
- Los desarrolladores del software.
- Proveedores de componentes externos (terceros).
La IA en la atención médica
La IA se utiliza cada vez más en diagnósticos y recomendaciones de tratamiento. Si un algoritmo genera un diagnóstico incorrecto en el que confía un proveedor de salud, los pacientes pueden sufrir retrasos en la atención o recibir un tratamiento inadecuado.
Lesiones por automatización en el lugar de trabajo
La maquinaria y la robótica impulsadas por IA son ahora comunes en entornos industriales. Sin embargo, si un sistema funciona mal o se comporta de manera impredecible, los trabajadores pueden sufrir lesiones graves. Estos casos a menudo se cruzan con la compensación laboral de los trabajadores (Workers’ Compensation) y reclamos de responsabilidad de terceros.
Productos de consumo con IA integrada
Un sistema defectuoso que cause daños físicos, ya sea por un mal funcionamiento o por sobrecalentamiento, puede dar lugar a un reclamo por responsabilidad del producto.
Cómo probar la responsabilidad en un reclamo por lesiones personales por IA
Los reclamos por lesiones personales causadas por IA no solo son complejos desde el punto de vista legal, sino que también son muy exigentes a nivel de hechos. Para ello, se debe tomar en cuenta elementos como:
- Previsibilidad: ¿Era previsible el daño? Si los desarrolladores o las empresas podían anticipar razonablemente el riesgo, podría ser posible exigirles responsabilidad.
- Control: ¿Quién tenía el control del sistema en el momento del incidente? Los sistemas de IA pueden evolucionar con el tiempo, lo que dificulta responder a esta pregunta.
- Causalidad: Probar la relación de causalidad en los casos de lesiones por IA en Nueva York puede ser un reto. Esto se debe a que los demandantes deben demostrar que el sistema de IA, y no otro factor ajeno, causó directamente la lesión.
La «caja negra» y las normas de exhibición de pruebas (Discovery) en Nueva York
En un caso típico de lesiones personales, la etapa de exhibición de pruebas (discovery) implica recopilar correos electrónicos, registros de mantenimiento, imágenes de vigilancia y testimonios de testigos. En un caso de lesiones por IA, los tribunales de Nueva York permiten cada vez más la investigación dentro de la «caja negra». Los tribunales han comenzado a sentar precedentes que permiten a los demandantes exigir el acceso a los datos de entrenamiento y a los pesos algorítmicos (algorithmic weights) para determinar si un error de lógica o un sesgo algorítmico fue la causa próxima de una lesión.
¿Qué es la caja negra en la IA?
Muchos sistemas de IA modernos, especialmente aquellos basados en el aprendizaje automático (machine learning), no operan mediante una lógica basada en reglas fácilmente rastreables. En su lugar, dependen de modelos complejos entrenados con conjuntos de datos masivos. Esto crea dos problemas fundamentales:
- Opacidad en las decisiones: El razonamiento detrás de un resultado puede no ser explicable a simple vista.
- Dependencia de datos: Los resultados dependen en gran medida de datos de entrenamiento que podrían no ser accesibles.
El papel de la caja negra en los reclamos por lesiones
En cualquier caso, de lesiones personales en Nueva York, el demandante debe probar qué sucedió, por qué sucedió y quién es el responsable. La caja negra complica los tres elementos. Por ejemplo, si un vehículo autónomo no frena, un sistema de IA médica clasifica erróneamente una condición, o un robot de trabajo se desvía de su comportamiento esperado, probar la causalidad puede ser difícil sin conocer la lógica interna del sistema.
Las normas de exhibición de pruebas de Nueva York ayudan a abrir la caja negra
Nueva York cuenta con normas de exhibición de pruebas relativamente amplias que permiten a las partes obtener información material y necesaria para fundamentar o defender un reclamo. Al demandar a empresas por daños causados por IA, esto puede incluir mucho más que los documentos tradicionales.
Exigir el código fuente y los algoritmos
Si presenta un reclamo por lesiones causadas por IA en Nueva York, puede solicitar el código fuente, los modelos algorítmicos y la documentación de la arquitectura del sistema a las partes involucradas. Sin embargo, los demandados suelen resistirse a estas solicitudes alegando la protección de secretos comerciales y tecnología patentada.
Ante esto, los tribunales de Nueva York suelen equilibrar estos intereses permitiendo la divulgación bajo órdenes de protección (protective orders), las cuales limitan la forma en que las partes pueden usar y compartir la información confidencial.
Acceso a los datos de entrenamiento
Los datos de entrenamiento pueden ser fundamentales para demostrar sesgos, pruebas inadecuadas y escenarios de fallas previsibles. Por ejemplo, si una empresa nunca entrenó a un sistema de IA en ciertas condiciones del mundo real, esa brecha puede sustentar un reclamo por defecto de diseño.
Registros del sistema y datos de eventos
A diferencia de los productos tradicionales, los sistemas de IA suelen generar registros detallados (logs) que pueden incluir rutas de decisión, entradas de sensores y respuestas del sistema en tiempo real. Esto es, con frecuencia, lo más cercano al equivalente de una caja negra de avión en los casos de IA, y puede constituir la prueba más sólida disponible.
Declaraciones juradas (Depositions) de ingenieros y desarrolladores
Dado que un sistema de IA por sí mismo no puede explicar sus decisiones, el testimonio humano se vuelve crucial. Los testigos pueden aclarar cómo se diseñó el sistema, resaltar sus limitaciones conocidas y arrojar luz sobre incidentes o fallas previas. Entre los testigos se puede incluir a ingenieros de software, científicos de datos y gerentes de producto.
Qué hacer después de sufrir una lesión personal causada por IA
En caso de que una persona haya sufrido una lesión personal causada por la IA, los pasos a seguir son:
- Busque atención médica de inmediato: Aunque lo primordial es su salud, recuerde que sus registros médicos servirán como evidencia fundamental.
- Preserve la evidencia: Dado que los reclamos por lesiones personales causadas por IA dependen en gran medida de los datos, debes tener todo registrado.
- Evite hablar con las aseguradoras a solas: Las compañías de seguros pueden intentar minimizar o rechazar su reclamo, y podrían utilizar las declaraciones que usted haga en su contra.
- Consulte a un abogado de Nueva York especialista en responsabilidad por IA: o al menos que tenga conocimiento de estos casos.
El futuro de la responsabilidad por inteligencia artificial en Nueva York
La legislación sobre responsabilidad por accidentes de IA en Nueva York está evolucionando. A medida que la tecnología se vuelva más avanzada, se puede esperar una mayor atención legislativa, normas más definidas para la seguridad de la IA y una mayor rendición de cuentas por parte de desarrolladores y empresas.
La Ley de Educación y Seguridad en IA Responsable (Ley RAISE, por sus siglas en inglés) es, sin duda, un paso en la dirección correcta.
La necesidad de hablar con un abogado experto en responsabilidad de IA
Aunque los reclamos por lesiones relacionadas con la IA tienden a ser complejos, no están fuera del alcance de la ley. El reclamo será válido cuando un abogado con experiencia en responsabilidad por IA consiga:
- Investigar el incidente.
- Identificar a todas las partes responsables.
- Sortear las complejidades con las aseguradoras.
- Luchar por la máxima compensación.
Por qué estos casos requieren una acción inmediata
No asuma que porque alguien dice que «la tecnología tuvo la culpa» significa que nadie es responsable. En la mayoría de los casos, hay una empresa, desarrollador o fabricante detrás de esa tecnología que podría ser legalmente responsable. Tenga en cuenta que el tiempo también es vital a la hora de generar una demanda.
Conclusión
Es un hecho que la IA está transformando nuestra manera de vivir y trabajar, pero eso no elimina la responsabilidad cuando las cosas salen mal. Lo positivo es que las leyes de Nueva York son plenamente capaces de abordar estos casos, incluso a medida que la tecnología evoluciona.
Para conseguir resultados, se debe establecer un mecanismo que verdaderamente demuestre lo que usted pide o exige.