Introducción

El potencial de la inteligencia artificial (IA) para causar daño y crear un bien mayor ha despertado un gran interés en el campo de la ética y lo ha convertido en una de las áreas más difundidas, así como un tema emergente de enfoque dentro de las responsabilidades de supervisión de una junta.

Cualquier tecnología de la información puede ser utilizada para bien o para mal. Pero la IA requiere atención especial porque aumenta los riesgos en la TI al ampliar tanto su alcance como la escala de su impacto. Además, la IA no es solo una cuestión de uso una vez que se implementa un producto, ya que el uso de un sistema de IA está estrechamente vinculado a su diseño. Establecer estándares éticos para los sistemas de IA es necesario para evitar daños y aumentar el bienestar. Los estándares incluyen los principios que los sistemas de IA y sus desarrolladores, operadores y gerentes deben seguir a medida que desarrollan, operan y usan los sistemas de IA y los datos de los que dependen. Los estándares también incluyen la expectativa de cumplimiento de esos principios por parte de las organizaciones y la ley. Los estándares éticos de la IA son necesarios, pero no son suficientes: los estándares deben enseñarse, facilitarse, asumirse y posiblemente aplicarse en la cultura y el flujo de trabajo de una organización.

Este módulo proporciona herramientas e información para ayudar a las juntas a supervisar la implementación de estándares éticos y el establecimiento de una junta ética. Para obtener información sobre quién y cómo las juntas supervisan la ética y otras decisiones en materia de IA, revise el módulo de Gobierno.

Riesgos éticos de la IA

La IA presenta nuevos riesgos porque tiene capacidades que los sistemas de TI anteriores carecían. Los falsificadores ahora pueden crear videos falsos realistas y las compañías pueden crear chatbots que son casi indistinguibles de las interacciones humanas. Los sistemas autónomos pueden tomar decisiones de vida o muerte sin supervisión humana. En general, los sistemas de IA tienen la habilidad de tomar o recomendar decisiones a operadores humanos, algunos con riesgos muy altos.

Debido a que los sistemas de IA aprenden, estos son vulnerables a ser entrenados por datos sesgados deliberada o involuntariamente y a desarrollar y seguir modelos de toma de decisiones con sesgos implícitos. Por ejemplo, los sistemas de IA han sido acusados de rechazar a las candidatas para puestos de trabajo y de recomendar sentencias penales desproporcionadas y vigilancia de grupos minoritarios debido a tales prejuicios.[1]

Muchas técnicas de IA resisten la explicabilidad, lo que hace difícil determinar las razones de una decisión específica y también evaluar si el proceso de decisión cruzó una línea ética. Ciertos tipos de sistemas de IA basados en el aprendizaje automático pueden tomar decisiones sin supervisión humana, basándose en patrones complejos más allá de la comprensión humana, y así tomar decisiones que no se pueden predecir. Los humanos pueden no ser capaces de anular tales sistemas de IA cuando toman decisiones instantáneas en tiempo real, como con vehículos y aviones autónomos.[2]

La forma en que se producen las interacciones hombre-máquina afecta el proceso de gestión de riesgos. La precisión mejora a medida que los sistemas de IA aprenden. Sin embargo, existe el riesgo de que las decisiones tomadas únicamente por la tecnología sean aceptadas por los usuarios sin una supervisión humana adecuada.

Los valores del fracaso ético

Cualquier falla al considerar y abordar estas cuestiones y preocupaciones podría alejar a los clientes, socios y empleados. Su confianza tanto en la tecnología como en la compañía se puede disminuir y perder fácilmente si la compañía no tiene claras sus políticas sobre los problemas de IA y si la tecnología entregada actúa como una "caja negra".

Además, también puede haber consecuencias legales y regulatorias. Muchos dominios de aplicaciones de IA, como los sistemas financieros, están fuertemente regulados en lo que respecta a la equidad, diversidad e inclusión. Las empresas deben asegurarse de mantener el cumplimiento de estas regulaciones cuando implementan sistemas de inteligencia artificial en estos dominios. Las empresas deben comprender el origen de los datos utilizados para capacitar los modelos de IA y lo que es posible hacer con ellos. Varias regulaciones, como el Reglamento General de Protección de Datos (GDPR) en Europa, imponen restricciones sobre cómo tratar los datos, especialmente los datos personales. Además, es probable que la rendición de cuentas, la reparación y la responsabilidad de los sistemas de IA se presenten en futuros litigios. Los litigantes y los encargados de tomar decisiones legales requerirán claridad en torno a estos problemas.