La nueva normativa europea sobre inteligencia artificial (IA) conocida como EU AI Act está a punto de entrar en vigor en seis meses, lo que ha generado un gran interés entre las empresas desarrolladoras de aplicaciones y los científicos de datos. Esta ley establece límites en el uso del machine learning y la IA generativa, basándose en los niveles de riesgo que puedan suponer para la seguridad, la salud y los derechos fundamentales de los ciudadanos.
El alcance de esta ley es global, ya que cualquier empresa que utilice sistemas de IA que puedan afectar a ciudadanos de la Unión Europea deberá cumplir con los requisitos del EU AI Act. Esto incluye a organizaciones con base fuera de la UE que puedan tener relaciones comerciales con ciudadanos europeos, como en el caso de procesos de selección o evaluación de microcréditos mediante algoritmos de scoring.
La normativa se basa en tres niveles de riesgo en función de las implicaciones que pueda tener la IA en la vida de las personas. Los sistemas de nivel “inaceptable” abordan cuestiones como la protección de la privacidad y la manipulación de personas discapacitadas. Por otro lado, los sistemas de alto riesgo están sujetos a una mayor supervisión y regulación, como en los sectores de dispositivos médicos, vehículos y sistemas de reconocimiento de emociones.
Para garantizar el cumplimiento de la ley, las empresas deberán mantener la calidad de los datos de sus modelos de IA, proporcionar documentación y rastreabilidad de los mismos, garantizar la ciberseguridad y realizar evaluaciones de impacto. Además, se requerirá supervisión humana en la utilización de los resultados del sistema, especialmente en el caso de modelos de propósito general como GPT4.
Los profesionales del sector de la IA, como PredictLand AI, reconocen que la ley comunitaria obliga a las empresas a asumir su responsabilidad y a corregir posibles incumplimientos rápidamente. Las penalizaciones por violar la ley pueden llegar a los 35 millones de euros o el 7% de los ingresos globales del último ejercicio, por lo que es fundamental cumplir con los requisitos establecidos.
En resumen, la nueva ley europea sobre inteligencia artificial busca garantizar que estas nuevas tecnologías no supongan un riesgo para la seguridad y los derechos de los ciudadanos, promoviendo la transparencia y la responsabilidad en su aplicación. Para las empresas, es fundamental familiarizarse con los requerimientos de la ley y prevenir posibles infracciones antes de diseñar soluciones de IA. La premisa es clara: mejor prevenir que curar, ya que el coste de corregir errores en sistemas de IA puede ser muy elevado.
