Sobre el "peligro" de la IA

¿Puede la IA “escaparse” y “acabar con la humanidad en diez años? ¿Es tan peligrosa la IA?

Parece que es cierto... a medias. No hay peligro en que actúe por iniciativa propia, que no la tiene ni se prevé que la tenga en un futuro próximo. Lo que sí puede pasar es que su potencia sea aprovechada con finalidades “non sanctas”, aunque siempre con control humano de última instancia. Por ejemplo: ordenarle a un agente de IA que destroce el sistema de control de la red ferroviaria, recurriendo a cualquier atajo, o que infiltre y destruya el archivo de una red bancaria, o que -imaginemos- que se le ordene que infiltre y borre todos los asientos y antecedentes de un sistema jubilatorio... apenas algunos ejemplos que, llevados al plano militar, pueden ser terroríficos.

Pero resulta que esas cosas ya hace tiempo que lo pueden hacer y frente a ellas hay defensas. Lo nuevo es que las defensas difundidas hasta ahora aún no parecen tan fuertes ante los avances de las últimas generaciones de IA. Las pruebas que se han hecho han sido ejercicios contra sistemas que -a propósito y para probarlos- han dejado “ventanas” débiles, y a los que le han ordenado recurrir a una fuente limitada de datos ordenándoles una tarea con la instrucción de recurrir a cualquier camino para realizarla. La novedad es que han encontrado la forma de ubicar, en esas fuentes, debilidades que les permiten “escapar” y llegar a otros sistemas.

O sea, nada muy nuevo. Ahora lo que sí es nuevo:

Los sistemas informáticos antes de la IA tenían para las empresas un costo inicial, que una vez “colocados” en el mercado, a partir de su copia, por ejemplo, número 100.000, amortizaban la inversión y los que superaban ese número tenían costo cero, lo que permitía cuentas económicas previsibles: tanto cuesta, tanto se vende, logrado el objetivo de amortización lo demás es pura ganancia.

¿Qué pasa con la carrera de la IA? Pues que ese modelo de negocio ya no funciona porque la demanda de inversión es gigantesca y creciente no ya por años, sino por día. Los grandes competidores no pueden dejar de invertir, porque son superados por la competencia en un ritmo endiablado y esas cuentas se hacen impagables. Recaudan, pero no pueden sacar cuentas de ganancias y por lo tanto no pueden salir a bolsa. Los recursos de los que se trata son descomunales: 785.000 millones de dólares en 2026, 1.000.000 millones de dólares en 2027 y creciendo año a año hasta los 1.500.000 millones de dólares en 2030.

Ninguno ha salido a bolsa, salvo la X de Elon Musk, que cayó el 30 % al día siguiente de su apertura. Además, necesitan pagar y pagar y pagar la gigantesca infraestructura en energía, comunicaciones, centros de datos altamente sofisticados, etc. etc.

Pero ... esto no se puede decir: mostraría la debilidad económica de la inversión, que hasta ahora se ha realizado al margen de las bolsas, es decir, han sido inversiones captadas por fuera del sistema de control de las emisiones públicas y han absorbido un monto tan descomunal de capitales que afectan ya fuertemente al resto de la economía que se financia en las bolsas. No pueden confesarlo, porque ello espantaría a los inversores propios. Y ninguna de las grandes empresas ha podido mostrar un balance con ganancias. Lo que recaudan -e incluso lo que venden- no alcanza para seguir el ritmo afiebrado de las demandas de fondos de su desarrollo. TODAS. Por eso el singular acuerdo -o simultaneidad- con la que han coincidido en hablar.

Entonces: Es cierto que hay peligros. No es cierto que sean inminentes o que estén fuera de control. Es cierto que están -todas- investigando el área “seguridad” con prioridad, pero no es cierto que el motivo para detener las inversiones sea el miedo a que se la IA se “escape”.  Lo cierto es que no pueden decir que detienen los desarrollos porque los números peligran: es mucho más humanitario decir que lo hacen porque protegen a la humanidad de posibles desbordes o de su propia “extinción”.

Ni Trump, ni los militares americanos, ni los chinos, ni mucho menos los europeos, se creen ese libreto. Sus pronunciamientos al respecto han sido coincidentes.

En síntesis: seguir de cerca el tema parece un buen camino, pero sin traumarse. Entender el peligro, pero que eso no lleve a neutralizar los enormes pasos que significa la IA para el conocimiento, su democratización y mucho menos llegar a su eliminación o prohibición en los colegios, como algunos sostienen.

Seguir el tema y capacitarse, especialmente a los jóvenes, enseñándoles a “leer y escribir”, que en lo que hace a la IA implica profundizar la enseñanza sobre su funcionamiento, su desarrollo, su infraestructura, sus formas de funcionamiento, sus utilidades y sus límites, todo esto en los colegios con una currícula ampliada y perfeccionalizada. Eso permitiría que los beneficios lleguen y sean utilizados por la gente común, sabiendo lo que puede lograrse y como potenciar lo que saben y necesitan. Sin miedos irracionales. Con control de lo que hacen y hacemos.