Carta ética para la inteligencia artificial

Nuestro compromiso con una IA fiable

La inteligencia artificial constituye una tecnología que conlleva una profunda transformación de las organizaciones, las profesiones, los servicios y los usos digitales.

OLING acompaña a sus clientes en sus proyectos de transformación, sistemas de información y protección de datos. En este contexto, el uso de soluciones de inteligencia artificial es inevitable y debe formar parte de un enfoque responsable, controlado y respetuoso con las personas y los datos de nuestros clientes.

La presente Carta ética para la Inteligencia Artificial define los principios que OLING se compromete a aplicar en el uso, la evaluación, el diseño, la integración o la recomendación de soluciones basadas en la inteligencia artificial. Se aplica tanto a los usos internos de la IA como a los servicios prestados a nuestros clientes.

Complementa las políticas y los procedimientos de OLING relativos, en particular, a la seguridad de la información, la protección de los datos personales, la confidencialidad y la gestión de riesgos.

1. Una IA con una finalidad definida y un impacto controlado

Todo uso de la inteligencia artificial debe responder a una finalidad claramente identificada, legítima y proporcionada.

Antes de utilizar o recomendar una solución de IA, OLING procura identificar su objetivo, los usuarios afectados, los resultados esperados y los principales riesgos que podrían derivarse de ella.

La IA debe utilizarse en beneficio de las personas y las organizaciones y no debe dar lugar a la creación o amplificación de vulneraciones injustificadas de los derechos y las libertades.

Cuando la naturaleza o la sensibilidad de un proyecto lo justifique, se evalúan los posibles impactos de la IA antes de su implantación y se definen medidas adecuadas para controlar los riesgos identificados.

2. Una IA responsable y sostenible

OLING toma en consideración los impactos medioambientales, sociales y organizativos asociados a las soluciones de inteligencia artificial.

El uso de la IA debe ser proporcionado a la necesidad y aportar un valor real en relación con los recursos necesarios para su funcionamiento.

Cuando varias soluciones permiten responder a la misma necesidad, OLING fomenta que se tengan en cuenta criterios como la ubicación de las soluciones, el consumo de recursos, la sostenibilidad de la solución, su utilidad y sus impactos sobre las partes interesadas.

La búsqueda del rendimiento tecnológico no debe disociarse de la búsqueda de un uso responsable y sostenible de la tecnología digital.

3. Una IA equitativa y no discriminatoria

OLING procura que el uso de la inteligencia artificial no dé lugar a discriminaciones injustificadas ni a tratamientos no equitativos.

Se presta especial atención a la calidad y la representatividad de los datos, así como a los sesgos que puedan introducir los datos, los modelos, las reglas de funcionamiento o las condiciones de uso.

Cuando los resultados producidos por una IA puedan tener un impacto significativo sobre las personas, deben identificarse los riesgos de sesgo y discriminación y, cuando sea posible, evaluarse y corregirse.

Se fomenta la diversidad de competencias y puntos de vista en el análisis y la gestión de los proyectos que utilizan inteligencia artificial.

4. Una IA transparente y explicable

OLING promueve un uso transparente de la inteligencia artificial.

Cuando una persona interactúe directamente con un sistema de IA o cuando un contenido sea producido de manera significativa por una IA, debe poder informársele de dicho uso cuando el contexto lo requiera.

Las personas que utilicen la solución deben comprender tanto sus capacidades como sus limitaciones.

Las decisiones y los resultados producidos con la asistencia de una IA deben poder explicarse, rastrearse y controlarse cuando su importancia lo justifique. El nivel de explicabilidad esperado se adapta a la naturaleza del uso y a la gravedad de las posibles consecuencias de un resultado erróneo.

5. Una IA bajo control humano y con responsabilidades claramente definidas

La inteligencia artificial constituye una herramienta de asistencia y no una transferencia de responsabilidad a la máquina.

Las personas que utilizan una solución de IA siguen siendo responsables del uso que hacen de ella en el marco de sus funciones. Debe mantenerse un control humano adecuado cuando los resultados producidos por una IA puedan tener consecuencias significativas.

Los resultados generados por una IA no deben considerarse exactos por principio. Deben someterse a un nivel de verificación adecuado a su uso.

Deben identificarse las funciones y responsabilidades de los distintos intervinientes, especialmente cuando varios actores participen en el suministro, la integración o la explotación de una solución de IA.

6. Una IA robusta y segura

La seguridad de la información se tiene en cuenta en la elección, el uso y la integración de las soluciones de inteligencia artificial. OLING aplica a los sistemas de IA medidas de seguridad proporcionadas a los riesgos asociados a su uso.

Se presta especial atención a la confidencialidad de la información, el control de los accesos, la integridad y la calidad de los datos, la fiabilidad de los resultados, la gestión de las vulnerabilidades, la dependencia de los proveedores y la continuidad de las actividades.

La información sensible, confidencial o perteneciente a un cliente no debe introducirse en una solución de IA sin comprobar previamente que su uso está autorizado y que las garantías de seguridad son adecuadas.

Cuando sea necesario, debe seguir siendo posible volver a un tratamiento humano o convencional.

7. Una IA respetuosa con la privacidad y los datos personales

OLING aplica los principios de protección de datos personales y de respeto de la privacidad desde el diseño a los usos de la inteligencia artificial.

Todo tratamiento de datos personales realizado mediante una solución de IA debe cumplir los requisitos aplicables en materia de protección de datos.

OLING procura, en particular, limitar los datos utilizados a aquellos necesarios para la finalidad perseguida, garantizar su seguridad y determinar las condiciones en las que pueden comunicarse a un proveedor de soluciones de IA.

Se aplica una vigilancia especial a los datos sensibles, la información confidencial y los tratamientos que puedan presentar riesgos importantes para las personas. Los interesados deben beneficiarse del nivel de información adecuado y poder ejercer sus derechos en las condiciones previstas por la normativa aplicable.

Aplicación de la Carta

Estos principios se aplican a los empleados de OLING, así como a los intervinientes que actúen por su cuenta cuando utilicen o participen en un proyecto que implique una solución de inteligencia artificial.

Las soluciones y los proveedores de IA utilizados por OLING deben seleccionarse teniendo en cuenta los requisitos de seguridad, confidencialidad y protección de datos, así como los principios definidos en la presente Carta.

En el marco de los servicios prestados a sus clientes, OLING procura identificar las responsabilidades respectivas de las distintas partes y alertar al cliente cuando un uso previsto de la IA presente un riesgo significativo identificado.

Todo empleado que tenga dudas sobre el uso de una solución de inteligencia artificial debe solicitar una validación antes de continuar utilizándola.

La presente Carta se comunica a las personas afectadas y se revisa periódicamente, en particular para tener en cuenta la evolución de los usos, las tecnologías, los riesgos y el marco normativo.