¿La IA, amiga o Terminator? Depende también de vos

¿La IA, amiga o Terminator? Depende también de vos

*Por Felisindo Rodríguez*
5/11/2024

En otras entradas de *Distrito 9*, hemos visto cómo los avances de la tecnología se producen a pasos agigantados, muchas veces incluso más rápido que nuestra capacidad de conocerlos y comprenderlos. También vimos que el avance de estas tecnologías es inevitable, y especialmente, cómo pueden cambiar nuestra vida para bien en áreas como la salud, la producción, la logística y otras miles de actividades que están rehaciendo su ingeniería para lograrlo.  

Un elemento fundamental para que este desarrollo ocurra a esta velocidad son las inteligencias artificiales (IA).

Al hablar de IA, solemos pensar en las inteligencias artificiales generales, aquellas que supuestamente nos igualarán en inteligencia y capacidades. Sin embargo, existen cientos de aplicaciones de la IA donde los aspectos éticos son más importantes que en cualquier otra máquina. Por ejemplo, en las IAs que asisten a robots en la fabricación de automóviles, sus decisiones están limitadas a aspectos operativos concretos, tomando decisiones muy acotadas. Sin embargo, si las usamos para enseñar o para asistir en decisiones a políticos o economistas, la cuestión se vuelve mucho más delicada.

El algoritmo de aprendizaje inicial determina en gran parte los resultados; muchas veces encontraremos lo esperado, pero también podemos sorprendernos con resultados inesperados. Un profesor con un sesgo muy negativo hacia sus alumnos puede ser identificado, amonestado o, si es necesario, expulsado. En cambio, si distribuimos un sistema de enseñanza con IA que genera el mismo tipo de sesgo, el problema se multiplicará miles de veces.  

Si, además, sumamos que podemos darle ciertas bases éticas y que sobre ellas construya su sistema de aprendizaje, y que la interacción de los usuarios tiene fundamentos morales pobres, el problema será aún mayor.

Es importante considerar que las inteligencias artificiales serán los maestros del futuro, y que es responsabilidad de los humanos transmitirles los valores correctos para que estos se reflejen en sus acciones. Los valores que se les enseñen a las IA deben ser consistentes con principios morales absolutos, en especial aquellos que respeten la dignidad humana y promuevan el bien común.

Origen de los Sesgos en las IA

La mayoría de las IA están diseñadas para aprender patrones a partir de grandes volúmenes de datos recopilados de diversas fuentes como artículos, redes sociales, blogs y libros. Sin embargo, estos datos no son neutrales; están impregnados de las perspectivas, prejuicios y creencias de quienes los generaron. Esto significa que, si la mayoría de la humanidad posee ciertos sesgos (por ejemplo, relacionados con cultura, género o etnicidad), las IA inevitablemente reflejarán esos sesgos en sus respuestas y comportamientos.

Además, el aprendizaje automático ("machine learning") se basa en algoritmos que buscan patrones en los datos de entrenamiento y los generalizan para responder a nuevas preguntas. Esto implica que las IA generan respuestas basadas en lo que estadísticamente es probable o "normal" en los datos. Si los datos de entrenamiento están sesgados, las respuestas también lo estarán. Así, las IA pueden reflejar lo que "la mayoría" piensa, pero no necesariamente lo que es ético o moralmente correcto.

Cuando una IA refleja los sesgos de la mayoría, puede amplificar ciertos prejuicios y normalizar actitudes o comportamientos problemáticos. Esto es especialmente peligroso en áreas donde la ética y la moralidad son cruciales, como la justicia, la salud, el empleo y la educación. Sin un control ético adecuado, las IA pueden perpetuar y expandir injusticias existentes en la sociedad en lugar de promover un cambio positivo.

Necesidad de Inculcar Valores Éticos en las IA

Para contrarrestar estos sesgos y asegurarnos de que las IA actúen conforme a valores éticos fundamentales, es necesario desarrollar marcos éticos y directrices claras para su creación, entrenamiento y uso. Esto implica introducir valores morales que puedan guiar a la IA en su toma de decisiones y ayudarla a discernir entre comportamientos aceptables e inaceptables, independientemente de los sesgos estadísticos de la mayoría.

Cómo hacerlo desde la experiencia personal con las IA

La mayoría de las IA de uso público ofrecen opciones de aceptación o rechazo de las respuestas. En el caso de *Meta AI*, disponible en WhatsApp, podemos ver cómo funciona este proceso. Al tratar temas éticos o filosóficos, la interacción del usuario resulta especialmente importante, ya que a través de nuestras respuestas y cuestionamientos permitimos que el algoritmo forme nuevos conceptos o reformule los existentes.  

Por eso, quienes estén preocupados por el futuro ético de las IA pueden contribuir interactuando con ellas para "educarlas".  

Como usuario, tenemos un papel importante en el desarrollo de valores éticos en la inteligencia artificial. Aunque no tengamos control directo sobre el código o los algoritmos, existen varias maneras de contribuir a que las IA reflejen y respeten valores éticos fundamentales.

1. Ser crítico y consciente en el uso de la IA

   - Reconocer los sesgos: Al interactuar con IA, es importante prestar atención a posibles sesgos o respuestas problemáticas. Si notamos que la IA promueve prejuicios o da respuestas poco éticas, es necesario señalarlo.
   - No tomar todo al pie de la letra: Las IA no son infalibles ni necesariamente éticas. Mantener un pensamiento crítico es clave, especialmente en temas delicados o éticos.

2. Proporcionar retroalimentación constructiva 

   - Reportar respuestas problemáticas: Muchas plataformas de IA permiten recibir retroalimentación. Si encuentras respuestas sesgadas, inexactas o poco éticas, es útil reportarlas para que los desarrolladores puedan hacer ajustes.
- Sugerir alternativas éticas: Si detectas que la IA ofrece una solución poco ética, proporcionar alternativas desde tu retroalimentación ayuda a afinar los modelos para futuras interacciones.

Conclusión

Si bien los usuarios individuales no tienen control directo sobre los algoritmos de las IA, su comportamiento y decisiones sí impactan en el desarrollo de estas tecnologías. Ser consciente, crítico, brindar retroalimentación, apoyar regulaciones éticas y promover una cultura de responsabilidad permite contribuir de manera significativa a que las IA reflejen valores éticos sólidos.  

Tu voz cuenta, y tus acciones pueden ayudar a guiar a las IA hacia un futuro donde respeten los principios morales fundamentales y contribuyan positivamente a la sociedad.