“Lo siento, pero me temo que no lo puedo hacer”
(I´m sorry, but I´am afraid I can´t do it)
¿Le suenan al lector estas palabras? Tal vez, pues fueron pronunciadas por HAL 9000, un computador inteligente que protagoniza la celebérrima película de Stanley Kubrick, “2001: una odisea en el espacio”. Asombran sus modales exquisitos porque, sin perder la compostura, anuncia nada más y nada menos su deseo de matar a un hombre.
Allá por el año 1968, fecha del estreno, era cosa de ciencia ficción que una máquina alcanzase semejante grado de excelencia intelectual, en principio únicamente reservada a la especie humana. Hoy día, en cambio, la inteligencia artificial ha escalado cotas tan altas que está en trance de destronar al superdotado HAL. No hablamos ya de la popular charla GPT, sino de una red invisible de algoritmos que se infiltran en nuestra vida cotidiana, desde las traducciones automatizadas hasta la gestión de los trasportes públicos.
¿Y la justicia? Se ha abierto el debate sobre la utilización de programas informáticos en los tribunales, llamados a reemplazar la sagrada función de los magistrados de carne y hueso. No es mucho el entusiasmo que despierta la idea, acaso por el miedo a que, cuando suene de madrugada el timbre de nuestra casa, no sea el lechero, sino inmisericordes agentes policiales a las órdenes de su señoría HAL.
Preguntémonos si tales temores están realmente fundados, o sea, el riesgo de que el sistema se descontrole y termine obrando por sí mismo. Es la rebelión de las máquinas, una obsesión que nos acecha desde antiguo con seres como el golem, hijos bastardos de la soberbia humana.
Profunda es la desconfianza que suscita la perspectiva de entregar nuestro destino a entes impersonales que decidan sobre si conservamos nuestra vivienda, los hijos o la propia libertad. Esta aversión atávica pasa por alto que los sistemas de inteligencia artificial no disfrutan de libre albedrío, sino que están atrapados dentro de una camisa de fuerza digital, esto es, su programa, el código de instrucciones que rige con lógica determinista todas y cada una de sus respuestas. El horizonte de una rebelión de las máquinas queda todavía lejos. Al menos, en apariencia, porque cabe siempre objetar que estos nuevos seres llevan una existencia de la que sabemos muy poco, dado que cada vez son más capaces de aprender por sí mismos e incluso reprogramarse unos a otros.
Pero, ¿Qué diremos de nuestros magistrados de toda la vida, sujetos a un impredecible cóctel de emociones? Al fin y al cabo, nadie sabe qué pasa por la mente de su señoría. Por eso, en la actualidad, parece que la conducta humana es más imprevisible que la de estos artefactos. Volviendo a HAL 9000, en la novela que inspiró la película se explica que su funcionamiento anómalo se debió a verse confrontado ante un dilema fruto de órdenes contradictorias, un atolladero que lo arrastró a una salida disparatada. Cualquier abogado sabe de sobra lo confusas, incongruentes e incompletas que son nuestras leyes, por lo que no tenemos ni remota idea de cómo se comportaría un HAL togado.
Derecho-Ficción
Aun así, hagamos Derecho-ficción e imaginemos unos futuros tribunales gobernados por los principios de la inteligencia artificial, programados exclusivamente con arreglo a la Ley, dotados de mecanismos de seguridad lo suficientemente robustos como para cerrar la puerta a cualquier reacción indeseable. Quizás sería el momento de mandar a los jueces al paro. O no. Dejemos apuntada una cuestión de gran calado filosófico: tal vez lo que inconscientemente deseemos sea que el juzgador esté dispuesto a saltarse en algunos casos la Ley, a romper las cadenas del programa cuando lo exija la Justicia. La razón última para desterrar a la inteligencia artificial del dominio de la justicia sería la creencia de que únicamente los hombres, y no las máquinas, están dotados de libre albedrío.
No voy a entrar ahora en un asunto tan espinoso como es la tensión entre Justicia y Ley, pues estamos muy lejos de un mínimo consenso. Sea como fuere, a mi modo de ver, no es el riesgo de insurrección digital ni de decisiones injustas el principal motivo de recelo contra la inteligencia artificial. El problema es otro, más prosaico, casi vulgar. El programa de estos futuros jueces robóticos sería, o debería ser la voluntad popular plasmada en las normas que aprueban las cámaras parlamentarias. Pues bien, ¿Quién programaría a estos magistrados artificiales?
Sería necesario un equipo de técnicos altamente cualificados. Tales expertos, en última instancia, dependerían de alguna clase de poder político, el Ministerio de Justicia, la mesa del Congreso o…algún partido. Ya se figurará el lector cuán fuerte sería la tentación de influir sobre esos programadores para que, de forma sutil pero eficaz, ajustasen los circuitos neuronales de los jueces cibernéticos a favor de intereses inconfesables. En definitiva, el viejo vicio de la politización de la Justicia, pero ahora con la agravante de que las manipulaciones serían más arduas de detectar, al estar camufladas en algoritmos incomprensibles salvo para un puñado de especialistas. Con toda probabilidad, su señoría HAL, un robot togado, no mandaría al patíbulo a ningún ciudadano, pero sí que sería proclive a recalificar terrenos, conceder subvenciones o contabilizar resultados electorales obedeciendo la voz de un amo poco democrático.
Seamos, por tanto, muy prudentes antes de dar un paso del que nos arrepintamos. Tal vez lo más sensato sea una fórmula mixta, Quirón, el centauro, un híbrido de hombre y máquina, un juez humano auxiliado, pero no reemplazado por la inteligencia artificial. Por eso, me despido citando al propio HAL, cuyas metálicas palabras resuenan con inesperada sensatez:
“I am putting myself to the fullest possible use, which is all I think that any conscious entity can ever hope to do”.
