Expertos instan a la precaución en el desarrollo de sistemas de IA conscientes

Más de 100 expertos en inteligencia artificial, entre ellos Sir Stephen Fry, han pedido una investigación responsable sobre la conciencia en IA. Enfatizan la necesidad de prevenir posibles sufrimientos en los sistemas de IA si alcanzan la autoconciencia.

Cinco principios rectores para la investigación sobre la conciencia en IA

Los firmantes proponen cinco principios para guiar el desarrollo ético de sistemas de IA conscientes:

2.      

**Priorizar la investigación sobre la conciencia en IA:** Enfocarse en entender y evaluar la conciencia en IA para prevenir maltratos y sufrimiento.

    
4.      

**Implementar restricciones en el desarrollo:** Establecer límites claros para asegurar que los sistemas de IA conscientes se desarrollen de manera responsable.

    
6.      

**Adoptar un enfoque por fases:** Progresar gradualmente en el desarrollo de IA consciente, permitiendo una evaluación cuidadosa en cada etapa.

    
8.      

**Promover la transparencia pública:** Compartir los hallazgos de investigación con el público para fomentar un discurso informado y una supervisión ética.

    
10.      
 
 **Evitar afirmaciones exageradas:** Abstenerse de hacer declaraciones engañosas o demasiado confiadas sobre la creación de IA consciente.

Estos principios buscan garantizar que, a medida que avanza la tecnología de IA, las consideraciones éticas permanezcan en primer plano.

Riesgos potenciales de la IA consciente

El documento de investigación adjunto destaca la posibilidad de que en un futuro cercano se puedan desarrollar sistemas de IA que posean, o parezcan poseer, conciencia. Esto genera preocupaciones sobre el trato ético a dichos sistemas.

Los investigadores advierten que, sin directrices adecuadas, existe el riesgo de crear entidades conscientes capaces de experimentar sufrimiento.

El documento también aborda el desafío de definir la conciencia en sistemas de IA, reconociendo los debates y las incertidumbres en curso. Resalta la importancia de establecer directrices para evitar la creación inadvertida de entidades conscientes.

¡Descubre las principales noticias y eventos del fintech!

Suscríbete al boletín de FinTech Weekly

Consideraciones éticas y futuras implicaciones

Si un sistema de IA es reconocido como un “paciente moral” —una entidad que importa moralmente por sí misma— surgen preguntas éticas sobre su tratamiento.

Por ejemplo, ¿sería comparable desactivar esa IA a dañar a un ser sintiente? Estas consideraciones subrayan la necesidad de marcos éticos que guíen el desarrollo de IA.

El documento y la carta fueron organizados por Conscium, una organización de investigación cofundada por el director de IA de WPP, Daniel Hulme. Conscium se enfoca en profundizar la comprensión sobre cómo construir IA segura que beneficie a la humanidad.

Perspectivas de expertos sobre la sentiencia en IA

La cuestión de si la IA puede alcanzar la conciencia ha sido un tema de debate entre expertos.

En 2023, Sir Demis Hassabis, director del programa de IA de Google, afirmó que aunque los sistemas actuales no son sentientes, existe la posibilidad de que en el futuro sí lo sean. Señaló que los filósofos aún no han llegado a un acuerdo sobre la definición de conciencia, pero que la potencialidad de que la IA desarrolle autoconciencia sigue siendo un tema a considerar.

Conclusión

La posibilidad de desarrollar sistemas conscientes requiere una cuidadosa consideración ética. La carta abierta y el documento de investigación acompañante son un llamado a la comunidad de IA para priorizar prácticas responsables en la investigación y el desarrollo.

Siguiendo los principios propuestos, investigadores y desarrolladores pueden trabajar para que los avances en IA se logren de manera ética, con un enfoque en prevenir posibles sufrimientos en sistemas de IA conscientes.