Ética de la IA: Por qué es importante, ahora, trabajar en una IA ética

¡Descubre las principales noticias y eventos de fintech!

Suscríbete al boletín de FinTech Weekly

Leído por ejecutivos de JP Morgan, Coinbase, Blackrock, Klarna y más

La ética de la IA es una de las principales preocupaciones de los inversores y analistas, especialmente desde la introducción de ChatGPT de OpenAI, que se convirtió en la aplicación de más rápido crecimiento.

La ética es necesaria si queremos que la inteligencia artificial no se convierta en peligrosa y se use adecuadamente - también en lo que respecta a la industria fintech, ya que podría ser particularmente peligroso utilizar IA no entrenada adecuadamente en finanzas.

Por qué la ética de la IA ocupa titulares

La ética en la inteligencia artificial ocupa titulares por razones tanto positivas como negativas.

Mientras que Microsoft recientemente redujo su departamento de IA y Sociedad – dejando solo a 7 personas durante una de las oleadas de despidos que involucraron a la empresa, muchos son los analistas y organizaciones que intentan reflexionar sobre el tema y hacer reflexiones sobre por qué la ética importa.

Esto también incluye organizaciones internacionales y políticas, algo que quizás pueda ayudar a los usuarios cotidianos – quizás aún demasiado inconscientes del progreso de la inteligencia artificial – a asegurarse de que la IA no es solo un tema empresarial.

El 23 de noviembre de 2021, la UNESCO publicó un texto, “Recomendación sobre la Ética de la Inteligencia Artificial”, que fue adoptado por los 193 estados miembros.

Las recomendaciones comienzan diciendo “Teniendo plenamente en cuenta que el rápido desarrollo de las tecnologías de IA desafía su implementación ética y gobernanza, así como el respeto y la protección de la diversidad cultural, y tiene el potencial de interrumpir los estándares y valores éticos locales y regionales”.

La referencia al multiculturalismo es importante en el caso de la IA.

Como veremos en un momento, es importante considerar que no todos son capaces de gestionar y usar la IA, y si permanece como una prerrogativa de los profesionales de la tecnología y las empresas, podría ser difícil para algunas culturas y segmentos de la población acceder a esta importante tecnología.

¿Tenemos IA sensible?

No tenemos – al menos, no aún – IA sensible.

Hasta ahora, las herramientas basadas en IA son entrenadas por personas y datos. Si desde cierta perspectiva esto significa que la IA no puede considerarse demasiado peligrosa aún, también significa que si las personas proporcionan datos sesgados, entonces las respuestas proporcionadas por la IA son sesgadas.

Lo mismo se aplica si los datos y el entrenamiento son proporcionados solo por ciertos profesionales y en ciertos países.

Como informa el MIT, la brecha de género en STEM (ciencia, tecnología, ingeniería y matemáticas) sigue siendo extremadamente significativa, y las mujeres con un trabajo adecuado a sus estudios en uno de estos campos solo representan el 28%.

Un informe publicado por IDC (International Data Corporation), la Guía de Gastos en Inteligencia Artificial Mundial, nos dice que las inversiones en IA deberían alcanzar los $154 mil millones en 2023. Pero, ¿dónde se concentran estas inversiones?

Como informa InvestGlass, los países donde se concentran las inversiones son Estados Unidos y China. También Japón, Canadá y Corea del Sur están aumentando inversiones y estrategias que involucran IA. La Unión Europea no es la región más avanzada en lo que respecta a la inteligencia artificial – incluso si algunos países como Alemania y Francia están desarrollando un entorno interesante para la inteligencia artificial.

Todos estos datos muestran que no todos están involucrados en esta revolución, y esto – por supuesto – puede ser perjudicial para un desarrollo valioso y ético de la IA.

Si la IA sigue demasiado concentrada en ciertos campos y países, los datos que producirá serán necesariamente sesgados.

Si el multiculturalismo aún no se aborda adecuadamente, los inversores ya están buscando una tecnología que pueda ser socialmente responsable y ética.

¿Qué piensan los inversores sobre la IA?

En los últimos años, una mayor conciencia general relacionada con la responsabilidad social también ha llevado a los inversores a preferir empresas que no son perjudiciales para las sociedades.

En el caso de la inteligencia artificial, es difícil no solo crear marcos globales destinados a regular la tecnología, sino que también es difícil para los inversores comprender completamente lo que realmente es ético en términos de inteligencia artificial.

La IA es relativamente nueva, y darle un contexto correcto se complica aún más por el hecho de que cambia constantemente.

Es por eso que los inversores están utilizando diferentes métodos para evaluar los posibles desarrollos futuros de un negocio de IA, así como su ética a medida que pasa el tiempo y se realizan cambios.

Como informa TechCrunch, parece que a los inversores les podría resultar más útil evaluar las características y cualidades del propietario del proyecto, para entender mejor cómo podría reaccionar a nuevos marcos y cómo quieren gestionar un proyecto de IA a pesar de los cambios constantes.

Entonces, incluso si estamos hablando de IA, los humanos aún tienen la última palabra – y cuanto más éticos sean las personas que usan la IA, más ética será la IA en el futuro.

Reflexiones Finales

La ética de la IA no es un tema fácil, y no es fácil evaluar cómo la IA puede ser ética.

La IA no es sensible, no tiene alma – independientemente de cómo se pueda definir un alma.

A pesar de esto, es fundamental trabajar en la ética de la IA en este momento, para evitar tantos peligros como sea posible en el futuro.

¡Si deseas saber más sobre noticias, eventos e información de fintech, suscríbete al boletín de FinTech Weekly!