Esta semana se presentará en el Senado de la República una iniciativa más para intentar regular lo que, de forma genérica, llamamos “inteligencia artificial” (IA). Se trata como recordarán por varias de mis columnas en este espacio, me interesa como académico, como profesor y obviamente, como ciudadano.
Como una forma de observar lo que podría ser llamado el sentido común jurídico al respecto, me he involucrado en diversas actividades, como oyente, claro, durante estas semanas. Incluso ahora, que escribo esto, acabé de estar en un evento en donde diversos expertos hablan sobre este tema. No sólo de la regulación, sino también de los usos y posibilidades que tiene en la actividad jurídica y en particular, en la actividad jurisdiccional, es decir, la tarea de quien juzga.
Al respecto, tengo que decir que he encontrado -salvo por algunas muy profundas y estimulantes excepciones- una aceptación bastante reiterada, de lo que podríamos llamar algunos mitos jurídicos sobre esta herramienta; el primero, se refiere a que el estado no debería intentar regular a las IA -o bien, que no puede hacerlo-, el segundo, se refiere a la inminencia en nuestro país -y en el mundo- de “jueces robots” o “jueces artificiales”; el tercero, es la idea de una supuesta neutralidad operativa de ellas.
En el primer caso, sobre la “no regulación”, resulta claro que se trata de un debate producto de la iniciativa que estamos discutiendo actualmente. Las ideas que más se repiten, es que la regulación del estado es innecesaria, indeseable o imposible, opciones, las tres, que considero profundamente equivocadas. Ellas reproducen la premisa falsa que ha servido desde siempre a la justificación de formas de dominio epistémico y material de los pueblos: que aquello que no es previsto por el derecho -y por lo tanto, que no existe de forma explícita en él cuando surge/es encontrado- no está realmente “regulado” por éste. En el periodo colonial de las guerras de conquista de nuestro continente, esa postura se articuló a partir de la doctrina de la terra nullius, o “tierra de nadie”, algo que permite asumir que como una parte de la realidad no tiene “un dueño”, entonces quien tiene poder puede hacer lo que sea en ella.
Como puede verse, esta idea no habla sobre la inexistencia de regulaciones jurídicas, sino de algo distinto: la importancia de la propiedad para la existencia de límites en lo que es posible hacer. Cuando las personas defienden que la regulación del estado no es necesaria o deseable ante la existencia de un bien que tiene propietario, lo que están diciendo es que el dueño puede hacer lo que quiera en él. Como el mito de las aguas internacionales, de la Antártida o el espacio exterior, los avances tecnológicos se presentan como si fueran “vacíos” de regulación estatal, pero no porque sean algo natural, sino porque “ya tienen dueño” y por lo tanto no lo necesitan.
De esta forma, debemos tener claridad en algo: la «no regulación» no existe. Si el estado no coloca las reglas para la IA, entonces necesariamente lo harán -mejor dicho, lo continuarán haciendo- las compañías que las controlan. Por ello, la elección no es entre regulación o no regulación, sino entre cuál va a ser el sustento de esas normas: la voluntad popular a través de un proceso legislativo basado en los ideales democráticos -regulación estatal- o los intereses de privados en busca de lucro y beneficios particulares -regulación empresarial, a la que llaman “no regulación”-.
El segundo de los mitos es en realidad, relativamente simple de mostrar como tal. En el imaginario jurídico, la tecnología es algo ajeno a la hechura social humana. Se reconoce, siempre, un inicio en ella, claro, pero de alguna forma las y los abogados suelen pensar que ésta es después del impulso inicial, auto generativa. Por ello, resulta tan atractiva la idea de los “jueces robots” o los jueces artificiales, que recibirían la información y podrían, a partir de ella, decidir casos por sí mismos, más rápido -porque ese es siempre el argumento principal- y sin los problemas “ideológicos” de los seres humanos que de otra forma se verían involucrados.
El problema de esta visión fetichizante sobre la tecnología y las IA, es que para construirse deja de lado la idea misma de jurisdicción (del latín juris-dictio: decir el derecho). En los cincuenta (si, hace setenta años), Hans Kelsen discutía en una serie de cartas con Ulrich Klug la idea de un “juez robot”. Estas cartas, que se publicaron con posterioridad en la obra Normas jurídicas y análisis lógico, nos recuerdan que el acto de decir el derecho es un acto de poder, y no una derivación lógica de resultado. Si colocamos la idea de un “juez de inteligencia artificial”, el verdadero juez no será la computadora, ni el algoritmo, sino como en el caso del Mago de Oz, la persona detrás de la cortina: quien coloque los parámetros para que al recibir ciertos inputs, la IA decida de una manera y no de otra, es en realidad, quien detentará la función jurisdiccional.
Si esto es notorio y sabido ¿por qué entonces se discute este tema? La respuesta es simple: por opacidad. Al colocar las decisiones como resultado de un “sistema informático”, el costo político de la decisión se difumina totalmente. El sistema decidirá siempre lo que nosotros queramos, y nosotros podremos siempre defendernos diciendo que no somos nosotros, sino el sistema.
Finalmente, sobre la supuesta neutralidad de las IA y la posibilidad de utilizarlas “instrumentalmente” (es decir, que lo resultados de su uso dependerán siempre de nuestro deseo y voluntad), la idea ha demostrado ya ser empíricamente falsa. En gran parte debido a la acción de diversos países que no se han amedrentado con las ideas de la imposibilidad o innecesaridad de la regulación estatal, así como a la búsqueda de respuestas concretas a ciertos temas por los clientes -que eso somos- de estas empresas, todas ellas han tenido que aceptar, en mayor o menor medida, que existen “problemas técnicos” (nuevamente la opacidad) que hacen que sus sistemas no sean neutros. Al estar hechos por seres humanos, al alimentarse de la información proporcionada para ello, cada una ha demostrado tener sesgos específicos, problemas concretos de reproducción de discursos de odio y enormes violaciones a derechos, tanto morales, como patrimoniales y humanos.
Como puede verse, la idea de no regulación se produce con una finalidad ideológica de avance, por parte de las empresas, de los ámbitos de su propio dominio en la sociedad. Y por ello, entre otras cosas, celebro realmente los intentos de regulación que desde el gobierno, se están dando. Es un paso no sólo necesario, sino que será enormemente benéfico para un futuro más ético en el uso de una tecnología que, sin ser neutra ni sin sesgos, ha llegado definitivamente, para quedarse. Luchemos entonces para que lo haga, sin reproducir alrededor ella, estos mitos jurídicos que tantas dificultades podrían causarnos.
