La responsabilidad humana en la era de la inteligencia artificial

En la actualidad, interactuamos con algoritmos en diversas actividades diarias, como elegir una película o recibir recomendaciones de compra. Sin embargo, a medida que estos sistemas empiezan a influir en aspectos más significativos de nuestras vidas, como la educación o la salud, surge una cuestión importante: ¿hasta qué punto estamos dispuestos a permitir que las máquinas tomen decisiones en nuestro lugar?

Cuando se trata de inteligencia artificial (IA), muchos procesos que antes eran exclusivamente humanos ahora pueden ser realizados por máquinas que analizan grandes volúmenes de datos y ofrecen recomendaciones en poco tiempo. Por ejemplo, en el ámbito educativo, los sistemas de IA pueden identificar las dificultades de aprendizaje y adaptar los contenidos a las necesidades de cada estudiante.

Marcelo Pacheco, director de la carrera de Ingeniería de Sistemas en Unifranz, señala que este enfoque permite personalizar la educación, ajustando tanto el nivel de dificultad como los contenidos según el avance de cada alumno. Sin embargo, esto plantea el riesgo de que se confunda la capacidad de procesamiento de datos con el juicio crítico necesario para entender las razones detrás de la pérdida de motivación de un estudiante o la complejidad de un diagnóstico médico.

Cuestionar la IA es fundamental para la educación superior

Mario Ariel Quispe, pedagogo de Unifranz, sostiene que la IA debería ser vista como una herramienta complementaria y no como una solución definitiva. Esta distinción es crucial, ya que una herramienta es un recurso que facilita tareas, mientras que depender completamente de una tecnología puede llevar a perder la capacidad de análisis y razonamiento crítico en los estudiantes.

La rectora de Unifranz, Verónica Ágreda, advierte que los algoritmos no son neutros, pues aprenden de datos que pueden contener sesgos y desigualdades. Es por este motivo que es fundamental que quienes desarrollan sistemas de IA consideren aspectos sociales y de equidad en la creación de estos algoritmos.

La UNESCO también resalta la importancia de que la IA se desarrolle bajo principios de transparencia y equidad, asegurando que la responsabilidad de las decisiones automatizadas siempre recaiga en los humanos. Esto es esencial para evitar que la tecnología desplace el juicio ético y la responsabilidad personal.

En esta nueva era, la formación de profesionales debe adaptarse a las cambiantes demandas del mercado laboral. Los estudiantes de Ingeniería de Sistemas no solo deben aprender a utilizar la IA, sino también a interpretar sus resultados, cuestionar sus recomendaciones y decidir cuándo no aceptar una sugerencia automatizada.

Finalmente, la vida tras la llegada de los algoritmos no implica que estos deban tomar todas las decisiones. Más bien, se trata de aprender a convivir con ellos y de reforzar lo que solo los humanos pueden aportar: juicio, ética y responsabilidad en nuestras elecciones cotidianas.