¿Puede la inteligencia artificial convertirse algún día en una amenaza para la humanidad? La pregunta, que hasta hace algunos años parecía reservada a la ciencia ficción, forma parte actualmente de las discusiones dentro de las propias compañías que desarrollan los modelos más avanzados del mundo.
El tema apareció durante una entrevista con Diego Godoy, decano del Departamento de Ingeniería y Ciencias de la Producción de la Universidad Gastón Dachary (UGD), doctor en Tecnologías de la Información y las Comunicaciones por la Universidad de Vigo, España, y docente universitario.
En la conversación se puso sobre la mesa una reciente advertencia proveniente de Anthropic: uno de sus principales investigadores en seguridad estimó en más de 10% la posibilidad de que la inteligencia artificial pueda terminar con la humanidad durante la próxima década. Consultado sobre si una afirmación de semejante magnitud debería generar temor, Godoy tomó distancia de esa estimación.
“Sinceramente no sé en qué datos se basa, pero también hay que tenerle miedo a un humano de que haga lo mismo. Así que no habría diferencia en ese sentido”, respondió en el streaming de Códigos. Para el especialista, el debate no debería concentrarse únicamente en la tecnología, sino también en quién la utiliza y con qué objetivos.
La discusión avanzó entonces hacia otro interrogante: si una inteligencia artificial alcanzara niveles mucho mayores de autonomía, ¿existirían herramientas para controlarla? Godoy consideró que sí y explicó que, al igual que ocurre actualmente con la seguridad informática, existe una competencia permanente entre quienes intentan vulnerar sistemas y quienes desarrollan mecanismos para defenderlos.
Además, relativizó la idea de que bastaría simplemente con “desenchufar” una IA para hacerla desaparecer. Muchos modelos funcionan en servidores pertenecientes a compañías o países y actualmente incluso es posible ejecutar determinados motores de inteligencia artificial desde una computadora personal.
Una herramienta para potenciar al humano
Más allá de los escenarios extremos, Godoy planteó una mirada menos alarmista sobre la tecnología. Para explicarla de manera sencilla, definió a la inteligencia artificial como un intento de simular mediante máquinas el pensamiento y la forma en que los seres humanos razonan para resolver problemas.
“No creo que haya que tener miedo”, sostuvo al comienzo de la conversación. Desde su perspectiva, la IA funciona principalmente como “un potenciador de todo lo que hacen los humanos”, ya que permite verificar actividades y acelerar procesos que antes demandaban mucho más tiempo.
Ese concepto atraviesa también su mirada sobre la educación. Para los estudiantes que recién comienzan una carrera, recomienda primero aprender, resolver los ejercicios por cuenta propia y luego utilizar estas herramientas para controlar los resultados. “Que haga los ejercicios y que los testee contra la IA, no que le pida a la IA que lo haga”, planteó.
En etapas más avanzadas, en cambio, considera posible establecer una relación mucho más estrecha con estas herramientas. Un estudiante con conocimientos consolidados puede utilizarlas para programar, revisar desarrollos o acelerar la creación de prototipos. La diferencia está en contar previamente con los conocimientos necesarios para detectar cuándo la respuesta obtenida es correcta y cuándo no.
De la yerba mate a la madera: el potencial de la IA en Misiones
La inteligencia artificial también puede trasladarse directamente a sectores productivos característicos de Misiones. Godoy contó que en el ámbito universitario ya se desarrollaron prototipos para detectar, mediante visión artificial, el porcentaje de palo presente en la hoja verde de yerba mate.
El procedimiento se basa en entrenar al sistema con una gran cantidad de fotografías para que pueda reconocer patrones. De esa manera, frente a una nueva imagen, la herramienta puede estimar cuánto palo aparece en la muestra. “Se tomaron fotos, una cantidad grande, y la IA detecta cuánto porcentaje de palo tiene”, explicó.
Las posibilidades se extienden a otros sectores. Godoy mencionó trabajos capaces de identificar enfermedades en hojas de naranja y experiencias en la industria maderera para reconocer los nudos presentes en machimbres y determinar si una pieza debe descartarse o continuar dentro del proceso productivo.
Aunque aclaró que estos desarrollos todavía requieren inversión antes de trasladarse directamente a una planta industrial, consideró que ese escenario no está demasiado lejos. “No digo que mañana se pueda ir a instalar en un secadero, pero si se invierte en ese tipo de cuestiones, yo creo que no está tan lejos de poder hacer eso”, afirmó.
El límite: la decisión final debe seguir siendo humana
Godoy también marcó los riesgos de utilizar estas herramientas sin controles. Uno aparece cuando los sistemas son alimentados con información equivocada: si reciben datos falsos, pueden procesarlos y devolver resultados incorrectos con apariencia de certeza.
El segundo peligro aparece cuando se pretende reemplazar completamente el juicio de una persona. “El criterio final siempre tiene que estar conservado al humano”, remarcó. Para el especialista, detrás de una respuesta generada por IA debe existir una persona capacitada que pueda verificarla y asumir la responsabilidad sobre el resultado.
Esto cobra todavía mayor importancia en áreas sensibles. Una inteligencia artificial puede orientar sobre cuestiones médicas, jurídicas o informáticas, señaló, pero cuando se trata de problemas complejos debe intervenir un profesional que controle, valide o corrija la información.
La misma lógica aplica a la seguridad. Godoy reconoció que actualmente existen ataques informáticos realizados con inteligencia artificial, aunque consideró que detrás de la mayoría continúa existiendo una decisión humana. “Yo entiendo que alguien dio el primer clic siempre”, resumió.
Por eso, frente al interrogante sobre si la IA terminará reemplazando a las personas o ampliando sus capacidades, su posición se mantiene lejos de un escenario apocalíptico. Para Godoy, el desafío pasa por aprender a utilizarla, conservar el control sobre sus resultados y adaptarse a una transformación tecnológica que ya comenzó: “En mi opinión, nos potencia”.
