Alcances e Implicancias de la Inteligencia Artificial en la actividad judicial. Una herramienta al servicio de la justicia; nunca su sustituto

 

 “Alcances e Implicancias de la Inteligencia Artificial en la actividad judicial. Una herramienta al servicio de la justicia; nunca su sustituto”

 

Mariano R. La Rosa

 

            El término “inteligencia artificial” abarca una gran variedad de programas que pueden simular procesos cognitivos humanos, incluyendo el razonamiento, el lenguaje y el aprendizaje: tecnologías que comparten un objetivo en común, emular la inteligencia humana; es decir, sin intervención del hombre lograr los mismos o mejores resultados intelectuales en un breve lapso a través de algoritmos u otras herramientas digitales.

            Más precisamente, la inteligencia artificial generativa es un área dentro de la inteligencia artificial que se enfoca en la creación de contenido nuevo. Utiliza técnicas de aprendizaje automático, especialmente aprendizaje profundo (deep learning), para generar resultados que no existían previamente. Se refiere a sistemas diseñados no solo para reconocer patrones, sino para generar contenido nuevo que siga dichos parámetros.

            En esa misión, se alimenta a sí misma con cada interacción, a través de la resolución de cada problema que se le va presentando, adoptando a su vez los sesgos y la manera de ser de quien la educa y del material que se nutre. Por eso es cada día más inteligente, hay que pensar que cuando lo sea más que el humano, no va a tener sus propios intereses, pudiendo incluso tenerlo como enemigo o rival y por eso resulta fundamental que no nos perjudiquen ni nos gobiernen por entero.

Los modelos Chat GPT, y luego de GPT-4 dieron lugar a un cambio de paradigma. Por un lado, la puesta a disposición del usuario de una herramienta con potencial para transformar diversas industrias y sectores; por el otro, la democratización para su acceso. Cualquier persona con un dispositivo y conexión a internet ahora puede utilizarlas libremente, independientemente de que conozca o no la tecnología subyacente en ellos[1].

El desarrollo es tal que esta tecnología duplica su capacidad cada 6 meses, logrando un crecimiento exponencial incalculable. También se estima que para el año 2045 existirán más robots que personas, con lo cual el cambio de paradigma resulta ser radical y, a la brevedad, se pretende alcanzar la Inteligencia Artificial General, súper inteligencia, que superaría a la humana, aunque aún no se ha arribado y que por el momento resulta condicional.

Ante ello hay que considerar que el ser humano se destacó frente a los demás seres vivos fundamentalmente por su inteligencia. No fue solo la fuerza ni la velocidad lo que nos dio ventaja, sino la información y su procesamiento. Mientras otras especies afinaban sus cuerpos para resistir o cazar mejor, nosotros afinamos nuestras mentes para anticipar, imaginar, comunicar. La competencia dejó de ser puramente física y se volvió cognitiva: ganaba quien podía pensar antes que actuar, o mejor aún, quien podía hacer que otros actuaran siguiendo una idea.

Por tal motivo el hombre pudo prevalecer por sobre todas las especies animales, conquistar el planeta y someter a sus recursos, pero en estos momentos nos encontramos en una trascendental situación debido a que cedió ese potencial único, por el cual resultó privilegiado por sobre todas los seres vivientes, a una inteligencia artificial, que él mismo creó y que resulta autónoma, desconociéndose hasta adonde podrá controlarla o si corre el peligro de ser dominado, sometido o dañado; ignorándose en definitiva sus verdaderas proyecciones o sus límites.

            Así, se afirmó que: “Por primera vez en la historia, nos enfrentamos a algo que es mucho más inteligente que el ser humano. Nunca hemos sido más fuertes o rápidos que otros seres vivos, pero éramos más inteligentes. Y ahora, por primera vez, nos enfrentamos a algo más inteligente que nosotros”, expresado por Elon Musk a su llegada a la Cumbre sobre Seguridad de la Inteligencia Artificial, realizada entre el 1 y 2 de noviembre de 2023, donde 28 países han firmado la Declaración de Bletchley[2], por la cual se comprometieron a reforzar la coordinación internacional entre todos aquellas investigaciones científicas que hoy analizan los riesgos para la seguridad que encierra la IA.

Es así que el rey Carlos III de Inglaterra la comparó con “el descubrimiento de la electricidad, la división del átomo, la creación de internet o incluso el descubrimiento y control del fuego”, y reclamaba un “sentido de la urgencia, unidad y fuerza colectiva” para hacer frente a los riesgos que la nueva tecnología trae consigo[3].

            Aquí cabe hacer referencia al Dr. Geoffrey Hinton, padre de la inteligencia artificial y premio Nobel de Física en 2023, que la diseñó conforme los lineamientos del pensamiento humano, por eso tiene la estructura de redes neuronales, al haberse desarrollado una red neuronal capaz de aprender de forma autónoma a identificar objetos tras analizar miles de imágenes. Este gran avance desembocó en la creación de herramientas como el archiconocido ChatGPT o Google Bard.

Su postura es clara y su principal objetivo es combatir la desinformación. Sin embargo, también le preocupa que la inteligencia artificial termine por eliminar trabajos y, en un extremo más catastrófico, a la propia humanidad. En palabras de Hinton, “mi mayor temor es que estos seres digitales súper inteligentes nos sustituyan. No tendrán necesidad de nosotros. Y, como son digitales, serán inmortales”; por ello ha expresado su preocupación por el mal uso de la inteligencia artificial y advierte que las máquinas podrían superar las capacidades humanas. Incluso aventuró que habría entre un 10 a 20% de posibilidades que la IA nos destruya.

Hinton sostuvo que la falta de regulación y expertos independientes en los gobiernos ha dejado en manos de las grandes compañías tecnológicas las decisiones más sensibles sobre el rumbo de la inteligencia. Fue especialmente crítico con el proceder de las mayores empresas a las que acusó de decidir el futuro “a puerta cerrada”. Estos gigantes, sostuvo, están en una carrera sin pausas por la supremacía tecnológica, mientras relegan los aspectos éticos y de seguridad a un segundo plano.

Por eso considera que permitir que la tecnología avance sin límites claros podría llevar a situaciones en las que la humanidad sea superada por sistemas digitales infinitamente más poderosos.

            En la mencionada Declaración de Bletchley se afirmó que: “La Inteligencia Artificial (IA) presenta enormes oportunidades globales: tiene el potencial de transformar y mejorar el bienestar humano, la paz y la prosperidad. Para lograr esto, afirmamos que, por el bien de todas las personas, la IA debe diseñarse, desarrollarse, implementarse y utilizarse de manera segura, centrada en el ser humano, confiable y responsable”, pero se reconoció que: “Existe la posibilidad de que se produzcan daños graves, incluso catastróficos, ya sean deliberados o no, derivados de las capacidades más importantes de estos modelos de IA. Dado el rápido e incierto ritmo de cambio de la IA, y en el contexto de la aceleración de la inversión en tecnología, afirmamos que es especialmente urgente profundizar nuestra comprensión de estos riesgos potenciales y de las acciones para abordarlos” (sic).

            En nuestro ámbito local José I Cafferata Nores destacó su influencia, colocándonos ante un escenario revolucionario, de gran trascendencia por el grado de transformación social, contexto que necesariamente provoca cambios legislativos e influye de manera directa en el sistema jurídico[4].

            El principal cuestionamiento que está recibiendo esta corriente tecnológica radica en la posibilidad de la pérdida de algunos trabajos o profesiones y más precisamente en el ámbito jurídico la preocupación se potencia ante la posibilidad que la tecnología decida en las controversias legales y así se supla a la actividad humana en este ámbito particularmente sensible donde es insospechable el alcance que puede tener pudiendo llegar, incluso, a dominar el planeta.

Pero, no obstante, existen diversas normas de rango constitucional que indudablemente exigen la efectiva intervención personal de un juez, es decir una persona humana, ante la cual recurrir a fin de garantizar derechos, resolver controversias, dictar sentencias y también revisarlas.

Ello implica la necesidad que personas reales efectivamente participen y decidan de modo concreto sobre el conflicto en cuestión.

Piénsese que la función jurisdiccional es una de las más altas e imprescindibles de las actividades estatales en una democracia plena, dado que conforma su recto funcionamiento, moldea su configuración, rige a los ciudadanos e instituciones y decide su devenir.

            Si acudimos entonces a nuestra Constitución Nacional advertimos que en su Sección Tercera, al instituir al Poder Judicial, expresa que: “será ejercido por una Corte Suprema de Justicia, y por los demás tribunales inferiores que el Congreso estableciere en el territorio de la Nación” (art. 108), es decir, está conformado por personas de existencia real y que, como tarea, “Corresponde a la Corte Suprema y a los tribunales inferiores de la Nación, el conocimiento y decisión de todas las causas que versen sobre puntos regidos por la Constitución, y por las leyes de la Nación” (art. 108, el destacado me pertenece).

            Así, destacamos el término “será ejercido” que nos remite a una concreta intervención de hombres y mujeres reales en acción (a través de su intelecto y su voluntad) para materializar el derecho a un caso en concreto, a través del “conocimiento”, tanto del derecho  como de los hechos a través de su investigación o de la propuesta que hacen los actores del caso, para luego arribar a la “decisión”, actividad racional dirigida a resolver los conflictos, analizar y otorgarles valor a los elementos materiales, llegar a una síntesis de los mismos, con adecuación y aplicación de las normas jurídicas respectivas e imponer una solución razonable al mismo.

En la misma dirección, la Convención Americana sobre Derechos Humanos es reveladora al exigir que: “Toda persona detenida o retenida debe ser llevada, sin demora, ante un juez u otro funcionario autorizado por la ley para ejercer funciones judiciales…” Art. 7.5 y que: “Toda persona privada de libertad tiene derecho a recurrir ante un juez o tribunal competente, a fin de que éste decida, sin demora, sobre la legalidad de su arresto o detención y ordene su libertad si el arresto o la detención fueran ilegales” (art. 7.6), de la misma forma que: “Toda persona tiene derecho a ser oída, con las debidas garantías y dentro de un plazo razonable, por un juez o tribunal competente, independiente e imparcial, establecido con anterioridad por la ley…” (art. 8. 1), agregando el “Derecho de recurrir del fallo ante juez o tribunal superior” (art 8.2, h) y al establecer la protección Judicial: “Toda persona tiene derecho a un recurso sencillo y rápido o a cualquier otro recurso efectivo ante los jueces o tribunales competentes…” (art. 25. 1).

            Por su parte el Pacto Internacional en Derechos Civiles y Políticos, dispone en el artículo 2. 3. a), que: “Toda persona cuyos derechos o libertades reconocidos en el presente Pacto hayan sido violados podrá interponer un recurso efectivo, aun cuando tal violación hubiera sido cometida por personas que actuaban en ejercicio de sus funciones oficiales; b) La autoridad competente, judicial, administrativa o legislativa, o cualquiera otra autoridad competente prevista por el sistema legal del Estado, decidirá sobre los derechos de toda persona que interponga tal recurso, y desarrollará las posibilidades de recurso judicial”.

            Del mismo modo, el art. 9.3 dispone que: “Toda persona detenida o presa a causa de una infracción penal será llevada sin demora ante un juez u otro funcionario autorizado por la ley para ejercer funciones judiciales…”, seguido por el art. 9.4, en tanto: “Toda persona que sea privada de libertad en virtud de detención o prisión tendrá derecho a recurrir ante un tribunal, a fin de que éste decida a la brevedad posible sobre la legalidad de su prisión y ordene su libertad si la prisión fuera ilegal”, estableciendo en el art. 14.1 que: “Todas las personas son iguales ante los tribunales y cortes de justicia. Toda persona tendrá derecho a ser oída públicamente y con las debidas garantías por un tribunal competente, independiente e imparcial, establecido por la ley…”.

            Lo propio hace la Declaración Americana de los Derechos y Deberes del Hombre al disponer en el artículo XXV que: “…Todo individuo que haya sido privado de su libertad tiene derecho a que el juez verifique sin demora la legalidad de la medida…”; siguiendo el art. XXVI al establecer que: “Toda persona acusada de delito tiene derecho a ser oída en forma imparcial y pública, a ser juzgada por tribunales anteriormente establecidos de acuerdo con leyes preexistentes y a que no se le impongan penas crueles, infamantes o inusitadas”.

             Por su parte, la Declaración Universal de DDHH refiere en su Artículo 8.º – Toda persona tiene derecho a un recurso efectivo, ante los tribunales nacionales competentes, que la ampare contra actos que violen sus derechos fundamentales reconocidos por la Constitución o por la ley. Seguido por el Artículo 10. – Toda persona tiene derecho, en condiciones de plena igualdad, a ser oída públicamente y con justicia por un tribunal independiente e imparcial, para la determinación de sus derechos y obligaciones o para el examen de cualquier acusación contra ella en materia penal.

            La Convención para la Prevención y la Sanción del Delito de Genocidio en el art. VI dispone que: “Las personas acusadas de genocidio o de uno cualquiera de los actos enumerados en el artículo III serán juzgados por un tribunal competente del Estado en cuyo territorio el acto fue cometido, o ante la corte penal internacional que sea competente respecto a aquellas de las Partes contratantes que hayan reconocido su jurisdicción”.

            La Convención Internacional sobre eliminación de todas las formas de discriminación racial establece en el art. 5.a) “El derecho a la igualdad de tratamiento en los tribunales y todos los demás órganos que administran justicia”. El art. 6 refiere: “Los Estados partes asegurarán a todas las personas que se hallen bajo su jurisdicción, protección y recursos efectivos, ante los tribunales nacionales competentes y otras instituciones del Estado, contra todo acto de discriminación racial que, contraviniendo la presente Convención, viole sus derechos humanos y libertades fundamentales, así como el derecho a pedir a esos tribunales satisfacción o reparación justa y adecuada por todo el daño de que puedan ser víctimas como consecuencia de tal discriminación”.

            La Convención sobre los Derechos del Niño expresa en su artículo 40.2 “Con ese fin, y habida cuenta de las disposiciones pertinentes de los instrumentos internacionales, los Estados Partes garantizarán, en particular:…b) Que todo niño del que se alegue que ha infringido las leyes penales o a quien se acuse de haber infringido esas leyes se le garantice, por lo menos, lo siguiente: iii) Que la causa será dirimida sin demora por una autoridad u órgano judicial competente, independiente e imparcial en una audiencia equitativa conforme a la ley, en presencia de un asesor jurídico u otro tipo de asesor adecuado y, a menos que se considerare que ello fuere contrario al interés superior del niño, teniendo en cuenta en particular su edad o situación y a sus padres o representantes legales;

            La Convención sobre los Derechos de las Personas con Discapacidad dispone en su artículo 13.2 “A fin de asegurar que las personas con discapacidad tengan acceso efectivo a la justicia, los Estados Partes promoverán la capacitación adecuada de los que trabajan en la administración de justicia, incluido el personal policial y penitenciario”.

            Teniendo en consideración las normas mencionadas, advertimos que todas en alguna medida obligatoriamente requieren la participación de personas humanas y a través de las directivas mencionadas por el referido artículo 108 de la Constitución Nacional, es menester destacar los verbos rectores que determinan la potestad jurídica en nuestro país, esto es el “conocimiento” equivalente a la actividad cognoscitiva, investigativa, requirente que debe ejercer el Poder Judicial, lo cual expresa una actividad esencialmente humana de investigar y de ponderar la fuerza probatoria de cada elemento acompañado a las actuaciones y la “decisión”, como actividad valorativa y potestativa, que implica escudriñar y elegir entre varias opciones, emanada del entendimiento humano que no resulta de ningún modo sustituible, para finalmente aportar una solución equitativa y razonable al conflicto subyacente.

En ese sentido, hay que considerar que el objetivo que se propone el proceso judicial es descubrir la verdad material del suceso bajo juzgamiento, demostrar la reconstrucción del hecho lo más fielmente posible a como ha sucedido en la realidad y asignarle a tal resultado una consecuencia jurídica emanada de las normas legales aplicables.

En dicha misión el juez es libre para valorar la entidad de cada elemento probatorio lo cual dista de considerar tal actividad mediante un mero accionar automático o algorítmico, dado que debe aplicarse el método de la sana crítica, pensamiento racional guiado por la lógica, la experiencia y el sentido común, al tiempo que debe existir una motivación para cada conclusión fáctica[5]; y debe ser completa, ya que tiene que comprender todas las cuestiones de la causa y cada uno de los puntos decisivos que justifican cada conclusión y debiendo poner el Juez de manifiesto el razonamiento por el cual adopta una decisión y no otra.

En dicha dirección, se rechaza que una sentencia pueda fundarse en la llamada libre o íntima convicción (propia de los razonamientos automatizados), que es entendida por: “un juicio subjetivo de valor que no se fundamente racionalmente y respecto del cual no se pueda seguir (y consiguientemente criticar) el curso de razonamiento que lleva a la conclusión de que un hecho se ha producido o no o se ha desarrollado de una u otra manera. Por consiguiente, se exige como requisito de la racionalidad de la sentencia, para que ésta se halle fundada, que sea reconocible el razonamiento del juez”, habiéndose propiciado la aplicación de la sana crítica, “que no es más que la aplicación de un método racional en la reconstrucción de un hecho pasado”, el cual “no puede ser otro que el que emplea la ciencia que se especializa en esa materia, o sea, la historia” CSJN, “Casal, Matías Eugenio y otro s/ robo simple en grado de tentativa”, 20/9/05)[6].

Por eso es que en dicho pronunciamiento se aseveró que: “la regla de la sana crítica se viola cuando directamente el juez no la aplica en la fundamentación de la sentencia…Cuando no puede reconocerse en la sentencia la aplicación del método histórico en la forma en que lo condicionan la Constitución y la ley procesal, corresponde entender que la sentencia no tiene fundamento. En el fondo, hay un acto arbitrario de poder”; no obstante lo cual “puede suceder que el método histórico se aplique, pero que se lo haga defectuosamente, que no se hayan incorporado todas las pruebas conducentes y procedentes; que la crítica externa no haya sido suficiente; que la crítica interna “sobre todo” haya sido contradictoria, o que en la síntesis no se haya aplicado adecuadamente el beneficio de la duda o que sus conclusiones resulten contradictorias con las etapas anteriores”; con lo cual se ha admitido que el proceso de reconstrucción que significa la valoración probatoria, una variable para fundar una sentencia es la confrontación de los elementos convictivos colectados con el principio “in dubio pro reo”.

En este punto debemos considerar que los derechos fundamentales resultan ser el punto de partida desde el cual debe desarrollarse toda actividad estatal, dado que con la incorporación de los Tratados de Derechos Humanos a nuestra Constitución Nacional (art. 75, inc. 22) el diseño del Estado toma al hombre como punto de partida y entroniza a su dignidad en su punto más alto, estableciendo derechos que son su inmediata derivación y que resultan inalienables a su condición humana; razón por la cual toda construcción normativa debe partir, sin lugar a dudas, desde dicho postulado.

 Ahora bien, habiendo aceptado así la validez de los derechos humanos como fundamentadores del sistema jurídico, se desarrolla a partir de aquí toda la actividad dialéctica, desplegándose un proceso discursivo de carácter deductivo hasta llegar a establecer resultados y demostrar conclusiones lógicamente compatibles con los principios básicos o con las premisas generales de las cuales se partió (es decir su coherencia con los derechos fundamentales); puesto que las normas jurídicas vigentes no son sino la expresión volitiva de una determinada estimativa social y sus fines constituyen el verdadero sentido existencial que le corresponde a cada regla jurídica.

Pero la actividad jurisdiccional también consiste en someter a crítica el significado y los fines prevalecientes que las normas tienden a concretar, pues la ciencia del derecho no puede quedar reducida a la mera interpretación y sistematización del derecho positivo[7] y para ello ha de examinarse en forma circunstanciada no sólo sus caracteres formales sino además sus fundamentos constitucionales, sus antecedentes históricos, sus posibles aplicaciones actuales y cada una de las disimilitudes que ofrece su interpretación; todo esto con el fin de hacer explícitas las posibles incongruencias de cada instituto jurídico con relación a la afectación de los derechos fundamentales de las personas que se encuentran sometidas a proceso.

De allí que el punto de partida metodológico adoptado por el debido proceso se contrapone con la postura que pretende interpretar de manera estricta la letra de la ley considerándola como un dogma que no puede ser sometido a evaluación crítica, puesto que considera que el derecho positivo sería un sistema autosuficiente para resolver cualquier caso, no presentando lagunas, contradicciones u otro tipo de indeterminaciones. Es así que la dogmática jurídica de raíz continental-europea, consiste principalmente en la construcción de sistemas jurídicos ideales estrictamente deducidos de unos pocos principios auto evidentes; sobre la presuposición de que su tarea no consistía más que en evaluar críticamente la ley positiva sino en adoptarla como dogma con el fin de exponer sus consecuencias y la interpretación correcta de la misma. De esta forma, los teóricos del derecho pretendieron desarrollar su tarea de exponer el derecho positivo manteniendo la metodología propia del racionalismo, concibiendo su labor como eminentemente deductiva y abstracta y ajena a consideraciones empíricas[8].

            Pero ello nos lleva a analizar la cuestión desde un eventual punto de vista de la resolución de casos mediante inteligencia artificial, donde nos encontramos que se asume la denominación de dogmática, como sinónimo de cientificismo, en cuanto se liga el derecho positivo a un hecho como un dogma, como una solución válida otorgada por una inteligencia infalible. Por eso es que “las decisiones previas de la dogmática se han mantenido en la sombra también por el deseo de sostener a ultranza el mito de que todo concepto de la misma proviene de la ley y sólo de ella”[9].

Pero la dogmática jurídica no puede quedar desnuda de finalidad y nuestro derecho ha de poseer carácter finalista. En efecto, el derecho, puesto que se ocupa de conductas no puede menos de tener un fin. El Estado debe recoger y enfocar teleológicamente todos los intereses que constituyen la cultura, dirigiéndolos al fin de la vida[10].

Resulta imprescindible entonces abrir espacio a la inclusión de la crítica humana, esto es, poner de relieve el problema, no cerrar el análisis a la mera exégesis legal; abrirlo a la confrontación democrática, analizarlo desde su punto de partida, de su fundamentación, los valores involucrados y sus consecuencias; dado que una democracia deliberativa no puede consentir que el Juez sea un mero autómata ligado a obedecer y aplicar al caso las verdades instituidas por los teóricos, sino antes bien es preciso platear el problema desde diversos puntos de vista y tomar decisiones pertinentes y motivadas, puesto que no otorga ningún grado de seguridad jurídica el hecho de encubrir los problemas y adjudicar una claridad y precisión inexistente en un pensamiento artificial que no es totalmente justificado.

Por lo tanto, la legítima convicción a la que debe arribar un pronunciamiento judicial no podría ser efectuado por un sistema informático dado que significaría una remisión a una opinión estadística artificial, a algún precedente similar o lo que íntima y aleatoriamente crea o decida un sistema aritmético.

La creencia individual propia de órgano jurisdiccional sólo será apta cuando se asiente en pruebas concordantes que permitan la reconstrucción de un suceso y su subsunción en las normas pertinentes y que tal razonamiento permita ser explicitado y explicado racionalmente. O sea que no se admite –por incontrolable- que la verdad se aprehenda por intuición; se exige, en cambio, que su conocimiento se procure mediante la razón[11]; por lo que dicho acto de razonamiento deberá considerar cuidadosamente los datos objetivos incorporados a la causa, de modo que se justifique y explique de qué forma se pudieron disipar las dudas existentes y cómo se arribó, a pesar de ellas, a la convicción y por lo tanto se justifique la resolución.

Queda entonces absolutamente descartada una apreciación artificial, algorítmica y no razonada de los elementos probatorios, ya que el método valorativo de la prueba exigido por nuestro ordenamiento instrumental es el de la sana crítica o crítica racional, el cual exige la valoración de los elementos de prueba en forma razonada, explícita y manifestada; lo que implica el respeto a las leyes del pensamiento (lógica), de la experiencia (leyes de la ciencia natural) y del sentido común (propio del hombre) que sea completa en el doble sentido de fundar todas y cada una de las conclusiones fácticas y de no omitir el análisis de prueba incorporada.

Entonces el método valorativo admisible es el de la sana crítica racional, entendida como pautas estables y permanentes del correcto entendimiento humano, fundadas en la lógica que obligan al juez a apreciar la prueba y fundar su decisión basándose no en su íntimo convencimiento sino objetivamente en los más genuinos lineamientos que indican la psicología, la experiencia común y el recto entendimiento humano[12]. Entonces se trata de: “un sistema de apreciación de los hechos y de las circunstancias fácticas de las figuras delictivas y de los hechos procesales, conforme a las leyes fundamentales de la lógica, de la psicología y de la experiencia social, que el juez debe respetar para asegurar la certeza de sus afirmaciones y la justicia de sus decisiones”[13].

Así, la Cámara Nacional de Casación Penal se ha referido al respecto, señalando: “Las reglas de la sana crítica son pautas del correcto entendimiento humano, contingentes y variables con relación a la experiencia del tiempo y lugar, pero estables y permanentes en cuanto a los principios lógicos en que debe apoyarse la sentencia (Couture), ellas informan el sistema de valoración de la prueba adoptado por nuestro Código Procesal Penal en su art. 398, párr. 2º, estableciendo plena libertad de convencimiento de los jueces, pero exigiendo que las conclusiones a que arriben en la sentencia sean el fruto racional de las pruebas, sin embargo esta libertad reconoce un único límite infranqueable, el respeto a las normas que gobiernan la corrección del pensamiento humano, es decir, las leyes de la lógica —principio de identidad, tercero excluido, contradicción y razón suficiente— de la psicología y de la experiencia común. La observancia del principio de razón suficiente, requiere la demostración de que un enunciado sólo puede ser así y no de otro modo. El respeto al aludido principio lógico exigiría que la prueba en que se fundamente la sentencia, sólo permita arribar a esa única conclusión y no a otra, o, expresado de otro modo, que ello derive necesariamente de los elementos probatorios invocados en su sustento, pruebas que excluyan que las cosas hayan podido ser de otra manera, que es lo que en definitiva define al principio en análisis. En lo que atañe al principio de contradicción deviene útil recordar que de su formulación se desprende que si hay dos juicios donde se afirma y se niega la misma cosa, es imposible que ambos sean verdaderos al mismo tiempo. Esto es, que si uno de ellos es verdadero, el otro es necesariamente falso y viceversa. El vicio se presenta toda vez que existe un contraste entre los motivos que se aducen o entre éstos y la parte resolutiva, de modo que oponiéndose, se destruyen recíprocamente y nada queda de la idea que se quiso expresar, resultando de la sentencia privada de motivación”[14].

En dicha dirección Jorge Claríá Olmedo aseguraba que: “La íntima convicción de los jurados escapa al contralor popular que el sistema impone en la administración de justicia. Nuestra cultura cívica y formación procesal no concibe una sentencia sin fundamentación…No hay duda de que el fallo racional y motivado del tribunal técnico ofrece mayores garantías. Es el resultado de una versación jurídica y técnica judicial adecuada para excluir los elementos de convicción ajenos a los autos. El jurado mezcla sus internas motivaciones con el ámbito emocional de los sentimientos, declarando la culpabilidad o la inocencia en un solo vocablo, con prohibición de explicarlo. La fundamentación del fallo judicial es garantía de justicia, conquistada a través de largas vacilaciones. Es un derecho de todos los miembros de la colectividad conocer la razón de una condena o de una absolución para evitar la arbitrariedad y exigir la objetividad de los pronunciamientos”[15].

Asimismo, por requerimiento constitucional, es menester arribar a una resolución judicial fundamentada, lo cual significa consignar por escrito las razones que justifican el juicio lógico que ellas contienen[16], dado que uno de los modos de lectura necesarios del significado de la motivación es el que pone énfasis en el hecho de que la motivación tiende a proporcionar una justificación de la decisión[17]. En otros términos, es dar el fundamento de la decisión, las razones que han determinado el dispositivo en uno u otro sentido[18].

            Además, la exteriorización del razonamiento permite el control de la corrección sustancial y de la legalidad formal del juicio previo exigido por la Constitución Nacional (art. 18), para asegurar el respeto a los derechos individuales y a las garantías de igualdad ante la ley e inviolabilidad de la defensa en juicio, así como al mantenimiento del orden jurídico por una más uniforme aplicación de la ley sustantiva[19].

Advertimos entonces que el análisis de la prueba proviene de un razonamiento dialéctico, puesto que, al contrario de los razonamientos analíticos que son aquellos que parten de unas premisas necesarias y conducen gracias a inferencias válidas a conclusiones igualmente necesarias o verdaderas transfiriendo la veracidad de las premisas a la conclusión (tal el caso de la prueba científica); los razonamientos dialécticos no se dirigen a establecer demostraciones científicas sino a guiar deliberaciones y controversias, dado que constituyen un medio de persuadir y de convencer a través del discurso, de criticar la tesis de los adversarios y de defender y justificar las propias con la ayuda de argumentos.

Debemos considerar entonces que a partir de La Retórica de Aristóteles —obra fundacional que sistematizó los modos de persuasión mediante el ethos (credibilidad), el pathos contiene elementos valorativos donde la emoción humana resulta fundamental.

            Por lo tanto, en el desarrollo de todo el proceso judicial predominan los razonamientos dialécticos (propio de la actividad humana) por sobre los analíticos (característicos de la IA), dado que en el procedimiento no nos hallamos en el mundo de las premisas incontestables que, a través de una demostración analítica conduzcan a una conclusión necesaria, sino en el reino de lo opinable, de lo discutible, en el marco de lo dual, de las dos verdades, la duda y el duelo dialéctico que abre paso a la decisión final, es decir, en la disyuntiva entre la elección de varias soluciones posibles, porque la sentencia no encierra nunca la justicia absoluta, sino “un punto de vista sobre la justicia”[20].

            Una demostración de ello es la plena vigencia en el ámbito penal del principio de inocencia y sobre todo del principio “in dubio pro reo”, por el cual ante la duda debemos inclinarnos por la no punibilidad del encausado; lo que denota que siempre esta posibilidad se erige como argumento frente a una hipótesis condenatoria.

            Es así que podemos aseverar que el pensamiento discursivo ha de ser siempre racional pero no necesariamente lógico formal, puesto que la primacía no corresponde a las demostraciones deductivas, sino a las argumentaciones tendientes a persuadir y convencer, para lo cual se utiliza no solo razonamientos lógico-formales, sino argumentaciones retóricas y tópicas.

            Por ello, el método de enjuiciamiento ha de ser racional-discursivo –y no intuitivo- no sólo en el proceso de subsunción de los hechos en disposiciones de la ley penal que contemplan descripciones de grupos de casos en los que se produce una infracción de las normas jurídicas, sino también en la averiguación de los hechos, porque el juez debe hacer comprensible su convicción a los destinatarios de la decisión y a los demás componentes de la comunidad política, y esta función sólo puede cumplirse en una forma racional-discursiva. Sólo así resulta posible un control de las decisiones judiciales, que evidentemente no puede extenderse a elementos de carácter intuitivo, sino sólo a aspectos que han podido ser comunicados a través de la resolución[21].

 

            Intentos normativos

            Como intentos normativos destacables se puede hacer referencia a la Ley de IA de la Unión Europea (UE), reconocida como el primer marco legal integral sobre inteligencia artificial del mundo, Su enfoque central es un sistema de clasificación basado en el riesgo, que establece obligaciones proporcionales a la amenaza potencial de un sistema de IA para la seguridad y los derechos fundamentales, habiéndose afirmado que está destinada a “prohibir los usos de la IA que violen los derechos fundamentales y los valores de la UE, establecer reglas claras para los casos de uso de alto riesgo y promover la innovación sin barreras para todos los casos de uso de bajo riesgo”.

Ejemplos de sistemas de IA de alto riesgo incluyen ciertas infraestructuras críticas, por ejemplo, el agua, el gas y la electricidad; dispositivos médicos; sistemas para determinar el acceso a instituciones educativas; o determinados sistemas utilizados en los ámbitos de la aplicación de la ley, el control de fronteras, la administración de justicia y los procesos democráticos.

            También podemos referirnos a la la llamada Declaración de Bletchley del 2 de Noviembre de 2023, donde 28 países, entre ellos EE.UU y China, se comprometen a una mayor cooperación para afrontar los riesgos de la inteligencia artificial[22].

            Por nuestra parte, podemos hacer referencia a que en el año 2017, la Fiscalía de la Ciudad Autónoma de Buenos Aires desarrolló junto al Laboratorio de Innovación e Inteligencia Artificial (IALAB) de la Facultad de Derecho de la Universidad de Buenos Aires,el programa PROMETEA, que consiste en un sistema que aplica inteligencia artificial (IA) para preparar automáticamente dictámenes judiciales, basándose en casos análogos para cuya solución ya existen precedentes judiciales reiterados.

Su principal objetivo es automatizar tareas jurídicas repetitivas, como la redacción de dictámenes y la clasificación de expedientes, para agilizar los procesos judiciales y liberar a los operadores jurídicos para que puedan centrarse en cuestiones complejas que requieren análisis humano.
El sistema funciona mediante el análisis de casos previos, utilizando inferencias estadísticas para proponer soluciones jurídicas y redactar documentos legales con gran precisión. Ha demostrado ser altamente eficiente, reduciendo, por ejemplo, plazos de resolución de procedimientos administrativos.

Por su parte, “Experticia” es una IA creada en el marco de un convenio entre la Suprema Corte de la Provincia. de Bs. As. con la Universidad Nacional de La Matanza. Se basa en la confección, por parte del usuario, de árboles binarios de decisión, a través de unos sistemas expertos, los cuales recibirán como parámetros de entrada referencias almacenadas en la base de datos y funciona dentro del sistema “Augusta”. Luego, se completará información relacionada con la causa, entregando como resultado uno o más trámites con los documentos, permitiendo automatizar el proceso de decisión en función del estado y datos del expediente electrónico de la Provincia de Bs. As.
“Velox”, es un sistema utilizado por la Fiscalía de Estado de la Provincia de Buenos Aires, también diseñado por el I.A.LAB, que se utiliza para la generación de la vista fiscal en los expedientes donde se reclaman intereses por mora en el pago de facturas.

El Poder Judicial de la Nación cuenta con el Proyecto Hodor con la participación de la Unión de Empleados de la Justicia Nacional (UEJN). Este software se encuentra instalado en los servidores del Poder Judicial a través del trabajo de la Oficina de Sistemas y Tecnología de la Cámara Civil, y va a buscar automatizar los inicios de los procesos sucesorios ab intestato y sus diferentes despachos del sistema Lex 100.

En la Provincia de Rio Negro, se ha estandarizado y automatizado el dictado de sentencias de ejecuciones fiscales en el fuero Contencioso Administrativo sustituyendo, mediante inteligencia artificial, el control formal que antes hacia un empleado y dictándose la sentencia monitoria según un modelo consensuado por los jueces. Es así que desde febrero de 2025, Viedma, El Bolsón y Villa Regina utilizan inteligencia artificial del Poder Judicial para automatizar ejecuciones municipales (multas, tasas, ruidos, ambiente, etc.).

            Podemos también hacer referencia a la Guía de directrices para el uso de ChatGPT e IA generativa de texto en la Justicia, Faculta de Derecho, Universidad de Buenos Aires, IALAB, donde se destaca al denominado “Human in the Loop”, es decir al control humano esencial previo y posterior, donde se le prohíbe a la IA la delegación de toma de decisiones, llegándose a establecer como regla la necesidad de la presentación ante los tribunales de justicia de una declaración explícita y específica por parte de los letrados en la que indiquen que ninguna parte de su presentación fue redactada por una IA o, para el caso de que así sea, informen si ese contenido ha sido verificado por un ser humano en cuanto a su exactitud y veracidad de fuentes, de forma previa a ser presentado al tibunal

 

Cuestionamientos efectuados

            El Dr. Roger Penrose ha planteado provocativamente que “La ia no existe”[23], dado que no la considera que sea una inteligencia, puesto que no tiene conciencia y que si bien reconoce su capacidad de computar, de procesar datos pero no le asigna la aptitud de valorar, de tener juicio crítico; es decir considera que no son capaces de comprender emociones o de tener las suyas propias.

Es así que los escépticos afirman que las computadoras nunca podrán ser tan inteligentes, creativas y, en general, tan inteligentes como los humanos.

Pero, mucho tiempo antes, John McCarthy, doctor en Matemáticas por la Universidad de Princeton, y el primer académico que estableció el marco científico para la creación de programas que pudieran simular procesos cognitivos humanos, incluyendo el razonamiento, el lenguaje y el aprendizaje; definió conceptualmente a la inteligencia artificial como la creación de máquinas que utilicen el lenguaje; formen abstracciones y conceptos; resuelvan clases de problemas reservados para seres humanos y que puedan mejorar por sí mismas. Efectuó estudios sobre la cognición emocional y defendió que la inteligencia artificial puede también abarcar aspectos emocionales y no solo razonamientos lógicos racionales.

Volviendo a Penrose, cree que los humanos pueden hacer algo que ninguna computadora clásica puede hacer: calcular funciones no computables. En otras palabras, cree que podemos resolver problemas que ninguna máquina de Turing[24] puede resolver. Esto implica que ninguna computadora estándar puede resolverlos, y ni siquiera las computadoras cuánticas. La ventaja de estas últimas es que pueden resolver algunos problemas con mayor rapidez, pero en principio también pueden simularse en máquinas de Turing.

Se pregunta entonces el mencionado autor, ¿Porqué la IA no crea sus propias reglas?, porque no saben que son verdad, responde.

El ser humano puede trascender las reglas entendiéndolas, ahí radica su comprensión. Estos sistemas solamente computan datos y aunque pueden ser sumamente complejos, no dejan de ser algoritmos y al carecer de conciencia, no tienen la capacidad de inteligencia de un ser consciente.

Según le consulté al propio Chat Gpt, la inteligencia artificial no tiene juicio crítico en el sentido humano.

El juicio crítico implica conciencia del contexto, valores, comprensión de intenciones y responsabilidad por las decisiones. La IA puede simular razonamientos críticos —comparar opciones, detectar contradicciones, evaluar argumentos—, pero no comprende realmente lo que hace. Solo opera con patrones aprendidos de datos y reglas estadísticas. En otras palabras: puede parecer crítica, pero no lo es.

Tampoco piensa como un humano. El pensamiento humano se basa en experiencia, emociones, valores y consciencia, puede comprender los alcances y proyecciones de sus respuestas. Mientras que la IA funciona con procesamiento de información y probabilidades. No tiene intenciones, deseos ni sentido del yo. Puede emular razonamientos lógicos o creativos, pero sin comprender su propio proceso ni tener una visión del mundo.

Por eso se dice que la IA razona sintéticamente, pero no piensa en sentido estricto.

Es decir, la IA no piensa realmente, sólo procesa gran cantidad de datos, pero sin conciencia de lo que hace. Entonces, la capacidad de procesar datos no es lo mismo que la capacidad de entendimiento humano, de razonar y extraer conclusiones meditadas.

Todavía las máquinas no son capaces de procesar emociones y realizar procesos de reflexión propios de la mente humana. No pueden comprender las interacciones a las que están expuestas.

            Pero Yuval Noah Harari, un historiador y filósofo israelita, afirma que: “Lo que todo el mundo debería entender sobre la IA es que no es una herramienta, es un agente, y es la primera tecnología que puede tomar decisiones por sí misma” [25], agregando: “Todos los inventos anteriores como la imprenta, la bomba atómica o lo que sea fueron herramientas en nuestras manos porque fueron los humanos los que decidieron qué hacer con ellas” ha expresado, aunque en el caso de esta Inteligencia Artificial también es obra del ser humano, lo cierto es que se trata de la “primera que puede tomar decisiones por sí misma”. “Que puede inventar nuevas ideas por sí misma, que puede aprender y cambiar por sí misma”, por lo cual “si no tiene la capacidad de aprender y cambiar por sí mismo no es una IA”, señalando que “esto es solo el principio”, refiriéndose a que es solo una cuestión de tiempo que la IA se cuele en todos los ámbitos de la sociedad.  Su desarrollo marca apenas el inicio de una etapa en la que la tecnología autónoma redefinirá los límites de la acción humana y el funcionamiento de la sociedad.

            Cabe tener en cuenta que un agente de IA es un sistema de software que utiliza la inteligencia artificial para realizar tareas de manera autónoma, tomando decisiones y ejecutando acciones para alcanzar objetivos específicos con mínima intervención humana. 

A diferencia de la IA tradicional, que simplemente responde a comandos, un agente de IA puede planificar, razonar, aprender y adaptarse a su entorno para cumplir sus metas.

            Otro riesgo evidente del mal uso de la IA es la descarga cognitiva que se hace en este sistema, puesto que generalmente los usuarios tienden a entregar toda su capacidad mental para que la IA haga todo; lo que implica que los seres humanos dejen de pensar, de razonar y de decidir, lo cual implicaría una delegación inadmisible ya que delega funciones propias del hombre y vuelve a todo el sistema impredecible e ingobernable.

            Otro cuestionamiento radica en la falta de transparencia frente a la opacidad de algunos modelos de IA (el problema de la "caja negra") pues dificulta entender cómo se llegó a una recomendación. Esto es problemático en un contexto judicial que requiere transparencia en el razonamiento legal.

Muchos sistemas de IA toman decisiones basadas en procesos tan complejos que resultan difíciles de entender y explicar, incluso para sus creadores. Los sistemas de IA no proporcionan justificaciones en términos de hechos y leyes, sino que se limitan a ofrecer correlaciones estadísticas. Esta falta de transparencia dificulta la atribución de responsabilidades y plantea serios cuestionamientos éticos sobre su uso en la justicia, donde el derecho a un proceso equitativo y la garantía del debido proceso requieren la posibilidad de conocer y entender la base de una decisión.

También tenemos el inconveniente de los sesgos algorítmicos, pues los sistemas de IA se entrenan con datos históricos que pueden contener sesgos sociales. Si estos sesgos se replican, las decisiones del sistema podrían perpetuar o incluso exacerbar las desigualdades existentes.

Este fenómeno no es inherente al algoritmo en sí, sino que se origina con los datos de entrenamiento sesgados o en un diseño defectuoso. Cuando se entrena un sistema de IA con datos históricos que reflejan prejuicios humanos, la tecnología no solo los aprende, sino que puede perpetuarlos y amplificarlos, creando un ciclo de retroalimentación que refuerza la discriminación.

            También surge el interrogante sobre quién es el responsable legal cuando una herramienta de IA comete un error o proporciona información incorrecta que afecta el resultado de un caso. Los algoritmos no poseen moral ni pueden ser juzgados legalmente, lo que desplaza la responsabilidad a los actores humanos involucrados: desarrolladores, proveedores o usuarios: y la determinación de la responsabilidad se diluye entre tantos intervinientes.

El debate sobre la propiedad intelectual en la era de la IA se ha manifestado en dos frentes principales. El primer frente se centra en la autoría: ¿puede una máquina ser autora de una obra? La jurisprudencia y el consenso legal en jurisdicciones clave como Estados Unidos y México han establecido que la autoría y los derechos de autor son un "derecho humano exclusivo de las personas físicas". En el caso referente de Estados Unidos, “Thaler v. Copyright Office”, se determinó que una obra generada por IA no podía recibir protección de derechos de autor debido a la falta de autoría humana. De manera similar, la Suprema Corte de Justicia de México ha dictaminado que la creatividad protegida por la ley es "exclusivamente humana".

 

La función de juzgar

En esencia la labor de los jueces se reduce al «juicio evaluativo» que emiten, el cual no puede ser replicado por la IA. Es decir, el juzgamiento no es una cuestión de lógica pura, es un conjunto de razonamientos prácticos, ponderación de los elementos de prueba y valoración de los argumentos vertidos por las partes, en su debido contexto y teniendo debidamente en cuenta sus alcances.

            Así puede aseverarse que el hecho de administrar justicia es un dato netamente humano. Existen herramientas que ayudan a dicha actividad, pero no puede suplantarla.

            Además ya se dijo que la IA no es sólo una herramienta, sino que es un agente, es decir un sistema de software que utiliza la inteligencia artificial para realizar tareas de manera autónoma, tomando decisiones y ejecutando acciones para alcanzar objetivos específicos con mínima intervención humana, distanciándose de sus instrucciones iniciales y no explicitando el camino lógico que derivó en una solución determinada.

            Así podría considerarse que se estaría delegando la competencia del juez en un programa artificial. Es esta dirección es útil acudir a unos de los primeros pronunciamientos sobre el tema, adoptado por la Cámara en lo Penal de la Circunscripción Judicial de Esquel, en el expediene “PROVINCIA DEL CHUBUT c/ P.R.A.”, Carpeta judicial nro. 6209, del 15/10/25, donde se dijo: “ No se puede soslayar que la función de juzgar del Estado esta delegada en los Jueces/zas y que esa actividad se encuentra reglada en lo que hemos conocido como la garantía del debido proceso...La exigencia, se cumple, básicamente, si las decisiones son dispuestas por el juez natural y estén debidamente fundadas, y ajustadas a ciertos parámetros mínimos de razonabilidad…la garantía del juez natural, lleva ínsito que instituida por el Estado para cumplir esa función. La competencia se presenta como un límite claro, porque es el conjunto de facultades y atribuciones conferidas por el ordenamiento jurídico a un órgano estatal para el ejercicio de sus funciones. La noción de competencia consagrada en el artículo 8 de la Convención, ha sido asimilada al concepto de juez natural, que exige no sólo el establecimiento del tribunal por ley previa, sino también que se respeten determinados principios de atribución de la competencia. Dicha garantía, también prevista expresamente en el

artículo 18 de la Constitución Nacional, impide la creación de fueros personales y prohíbe que se cambie o altere la competencia del tribunal que al momento de ocurrir los hechos debían entender en la causa judicial de acuerdo a la ley anterior, para transferirla a otro tribunal que reciba esa competencia después del hecho. Aceptar que el Juez puede delegar en un asistente artificial la fundamentación de su resolución podría significar en los hechos la eliminación de la competencia pues los programas no tienen límites espaciales ni de ninguna índole” (sic. Voto de la Dra. Estefanía)[26].

Aunque los beneficios más citados de la IA son la reducción de costos y el ahorro de tiempo en tareas administrativas, un análisis más profundo revela una consecuencia aún más significativa pues los abogados con su ayuda se liberan de tareas superfluas para dedicar más tiempo a actividades que requieren pensamiento crítico y empatía humana, como la formulación de estrategias legales complejas y el desarrollo de la relación con el cliente. Esto no es simplemente una cuestión de eficiencia, sino una redefinición fundamental del valor del profesional del derecho. La tecnología asume la carga de la "computación" legal, mientras que el abogado se centra en el elemento intrínsecamente humano de la profesión: el juicio, la empatía, la negociación y la defensa estratégica.

            Asimismo queda en claro que, por imperio constitucional, la actividad judicial es necesariamente y, por esencia, humana ya que por la propia naturaleza de la función decisoria se involucra al intelecto y la forma de pensar del mismo; limitándose a ser un medio en dicha misión.

            Por eso se impone el control humano obligatorio. En todos los casos tiene que haber un juez, anticipándose a la decisión, cargando los datos necesarios para el pronunciamiento y controlando la corrección, la veracidad y el camino argumental de cada resolución; como  consecuencia de la prohibición de delegar decisiones importantes a la IA y a fin de evitar el riesgo que se sustituya el juicio humano en esta misión.

            Volviendo a la resolución citada se dijo que: “Concretamente al regular los principios rectores que deben respetarse en la aplicación de dicha tecnología, resaltan dos: El control humano y su uso ético y responsable. El acuerdo plenario establece que todas las respuestas generadas por sistemas de IAGen deben ser supervisadas tanto antes como después de su aplicación y que esto asegura que las decisiones finales recaigan siempre en los profesionales quienes evaluarán la pertinencia, exactitud y coherencia de los resultados obtenidos. Dicho principio guarda estrecha relación con la situación aquí planteada, ya que al no haberse especificado cómo fue utilizada la IA para elaborar la respuesta jurisdiccional, no consta el control que pudo efectuar el Juez sobre el uso de la herramienta, y, lo que es igualmente grave, las partes tampoco pudieron acceder a dicha información para llevar a cabo un control que hace al modo en que se adoptó una decisión sobre la que se basó la sentencia. Esa imposibilidad de control cobra mayor relevancia si se toma en cuenta que la facultad recursiva del imputado, en un debate resuelto con un Juez profesional, se refiere al ejercicio del derecho al doble conforme, de raigambre constitucional, que se materializa con la posibilidad efectiva de atacar los argumentos en base a los cuales el Magistrado decidió su caso condenándolo[27].

            En la misma dirección, la Guía de directrices para el uso de ChatGPT e IA generativa de texto en la Justicia elaborada por la Faculta de Derecho, Universidad de Buenos Aires, IALAB, estipula que: “La supervisión humana es esencial para garantizar la precisión, calidad y ética de las respuestas generadas por IA, corregirlas y mejorarlas, prevenir sesgos, contenido inapropiado, incorrecto o ilegítimo. Por ello, es clave enfatizar permanentemente en que los seres humanos seguirán siendo siempre los agentes de control y de toma de decisiones” (pág. 16).

            Asimismo cabe resguardar a la garantía del juez natural, puesto que la sociedad espera que una persona previamente designada, con estabilidad en el cargo e independencia, decida las cuestiones sometidas a su conocimiento, proscribiéndose toda delegación de funciones la cual “entraña una flagrante violación al principio del juez natural, ya que nadie puede ser “… juzgado por otros jueces que los instituidos por la ley antes del hecho de la causa y designados de acuerdo a esta Constitución…” (art. 44 de la CCh), mucho menos, una tecnología desarrollada por empresas privadas, y aplicada al margen del control de las partes” (Cámara en lo Penal de la Circunscripción Judicial de Esquel, “PROVINCIA DEL CHUBUT c/ P.R.A.”, Carpeta judicial nro. 6209, 15/10/25, voto del Dr. Dal Verme).

            Se advierte además que el juzgamiento de una actividad netamente humana. Los jueces no son “máquinas de razonar”, sino “conciencias vivas que crean justicia”. Al respecto se consideró que: “las enseñanzas del profesor Calamandrei, que -en mi humilde criterio- resultan elocuentes cuando al referirse al juez afirma: “…no es una máquina calculadora. Es un hombre vivo, y su función de individualizar la ley y de aplicarla al caso concreto, que in vitro puede representarse como un silogismo, es en realidad una operación de síntesis que se cumple misteriosa y calurosamente en el crisol sellado del espíritu, en el cual la mediación y la soldadura entre la ley abstracta y el hecho concreto tienen necesidad, para realizarse, de la intuición y del sentimiento ardiente de una conciencia laboriosa...reducir la función del juez a una simple actividad de hacer silogismos significa empobrecerla, hacerla estéril, disecarla. La justicia es algo mejor; es la creación que emana de una conciencia viva, sensible, vigilante, humana”. Y aclaró “Con esto no se pretende significar que el juez puede olvidarse de la ley, ya que en el sistema de la legalidad no está facultado para salirse de los límites que ella establece, sino que solamente quiere decir que, para aplicarla fielmente, el juez no debe considerarla como una imposición extraña que le venga de lo alto, sino que debe buscar sus fundamentos en su propia conciencia, y cuando vaya a traducirla en mandamiento concreto, re-crearla con su partícipe sentimiento...el juez, que es el intérprete oficial de la ley, debe encontrar reflejada en sí mismo esa conciencia social de la que ha nacido la ley, y leer en la propia conciencia individual los fines de orden general que su pueblo ha querido alcanzar con la ley”. Concluyó el maestro florentino: “No queremos saber nada de los jueces de Montesquiu “etres inanimés”, hechos de pura lógica. Queremos jueces con alma, jueces engangés, que sepan llevar con humanoy vigilante empeño el gran peso que implica la enorme responsabilidad de hacer justicia” (Calamandrei, Piero, “Justicia y Política: sentencia y sentimientos”, en Proceso y Democracia, trad. de Héctor FIX ZAMUDIO, EJEA, Bs. As., 1960, ps. 77 a 83).

El desafío al que nos enfrentamos, de los algoritmos y de procesos de automatización aplicados a los sistemas de Justicia, merece un tratamiento interdisciplinario y sobre todo humanístico, ya que las máquinas y todos los sistemas complejos tecnológicos no poseen la experiencia ni las emociones de los seres humanos…La argumentación jurídica deberá basarse en un razonamiento lógico e integrado, capaz de comprender la normativa jurídica, la trama social compleja, pero también, el lenguaje natural y el fenómeno tecnológico. El desarrollo de la Inteligencia Artificial, del Big Data, blockchain, y de todo el avance científico, impone la composición de esas normas jurídicas a dicha realidad tecnológica, que debe realizarse respetando normas éticas, con transparencia, coherencia, equilibrio, y sobre todo, promoviendo los ideales republicanos y democráticos, para lo cual resulta trascendental, la capacitación de los operadores judiciales” (Cámara en lo Penal de la Circunscripción Judicial de Esquel, “PROVINCIA DEL CHUBUT c/ P.R.A.”, Carpeta judicial nro. 6209, 15/10/25, voto de la Dra. Estefanía ).

            Debemos entonces reconocer las ventajas que nos otorga la IA como ser la reducción de costos y el ahorro de tiempo en tareas administrativas, un análisis más profundo revela una consecuencia aún más significativa: la IA se convierte en un facilitador estratégico. Al delegar las tareas repetitivas y de bajo valor a la tecnología, los abogados se liberan para dedicar más tiempo a actividades que requieren pensamiento crítico y empatía humana, como la formulación de estrategias legales complejas y el desarrollo de la relación con el cliente. Esto no es simplemente una cuestión de eficiencia, sino una redefinición fundamental del valor del profesional del derecho. La tecnología asume la carga de la "computación" legal, mientras que el abogado se centra en el elemento intrínsecamente humano de la profesión: el juicio, la empatía, la negociación y la defensa estratégica.

            Sin embargo, la tecnología no debe invadir las funciones judiciales centrales, como el razonamiento y el análisis legal, que deben ser realizadas por humanos. El juez es imprescindible y sigue siendo el responsable de la decisión final y debe verificar cualquier contenido generado por la IA.

Asimismo, la implementación de estos sistemas debe garantizar la seguridad y la privacidad de la información sensible de las partes involucradas en los procesos judiciales.

También advertimos que la tecnología no reemplaza el sentido, la conexión ni el propósito de la inteligencia humana, La IA decide que hacer todo el tiempo, proporciona una solución algorítmica y lo hace razonando fríamente, sin valoración, no teniendo en cuenta verdaderamente el problema, sino tan solo adoptando una respuesta políticamente aceptable y que satisfaga al usuario, antes de lograr una solución ecuánime

Es decir, una IA no podría valorar por completo a un supuesto de hecho, ponderar el alcance completo de una decisión, puesto que hay emociones y experiencia humana que son irreemplazables.

Además, nos hallamos en un sector del conocimiento que, por exigencia constitucional, se requiere la intermediación humana en la resolución judicial de de conflictos. Así podrá colegirse que, en este aspecto, nunca podrá suplirse al raciocinio humano, ya sea por mandato constitucional o por la mera estructura del razonamiento lógico, circunstancia bajo la cual la inteligencia artificial resulta ser una herramienta de inestimable valor al ayudar en la realización de muchísimas áreas, pero nunca será admisible que suplante la actividad humana de decidir, valorar y administrar justicia.

 

---

[1] Guía de directrices para el uso de ChatGPT e IA generativa de texto en la Justicia, Faculta de Derecho, Universidad de Buenos Aires, IALAB, 2025, pág. 6.

[2] https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/dbc58681-1b68-47e0-8e3f-f91435fdf8ce

[3] https://www.lanacion.com.ar/tecnologia/28-paises-entre-ellos-eeuu-y-china-se-comprometen-a-una-mayor-cooperacion-para-afrontar-los-riesgos-nid02112023/

[4] https://www.youtube.com/watch?v=RKAd4gazQd4, también en: https://www.youtube.com/watch?v=-My7tp7GrXs

[5] CAFFERATA NORES JOSE I., “In dubio pro reo” y recurso de casación contra la sentencia condenatoria”, La Ley, Suplemento de Jurisprudencia Penal, 23/12/99.

[6] “En cualquier caso se trata de la indagación acerca de un hecho del pasado y el método “camino” para ello es análogo. Los metodólogos de la historia suelen dividir este camino en los siguientes cuatro pasos o capítulos que deben ser cumplidos por el investigador: la heurística, la crítica externa, la crítica interna y la síntesis. Tomando como ejemplar en esta materia el manual quizá más tradicional, que sería la Introducción al Estudio de la Historia, del profesor austríaco Wilhelm Bauer (la obra es de 1921, traducida y publicada en castellano en Barcelona en 1957), vemos que por heurística entiende el conocimiento general de las fuentes, o sea, qué fuentes son admisibles para probar el hecho. Por crítica externa comprende lo referente a la autenticidad misma de las fuentes. La crítica interna la refiere a su credibilidad, o sea, a determinar si son creíbles sus contenidos. Por último, la síntesis es la conclusión de los pasos anteriores, o sea, si se verifica o no la hipótesis respecto del hecho pasado. Es bastante claro el paralelo con la tarea que incumbe al juez en el proceso penal: hay pruebas admisibles e inadmisibles, conducentes e inconducentes, etc., y está obligado a tomar en cuenta todas las pruebas admisibles y conducentes y aun a proveer al acusado de la posibilidad de que aporte más pruebas que reúnan esas condiciones e incluso a proveerlas de oficio en su favor. La heurística procesal penal está minuciosamente reglada. A la crítica externa está obligado no sólo por las reglas del método, sino incluso por que las conclusiones acerca de la inautenticidad con frecuencia configuran conductas típicas penalmente conminadas. La crítica interna se impone para alcanzar la síntesis, la comparación entre las diferentes pruebas, la evaluación de las condiciones de cada proveedor de prueba respecto de su posibilidad de conocer, su interés en la causa, su compromiso con el acusado o el ofendido, etc. La síntesis ofrece al historiador un campo más amplio que al juez, porque el primero puede admitir diversas hipótesis, o sea, que la asignación de valor a una u otra puede en ocasiones ser opinable o poco asertiva. En el caso del juez penal, cuando se producen estas situaciones, debe aplicar a las conclusiones o síntesis el beneficio de la duda. El juez penal, por ende, en función de la regla de la sana crítica funcionando en armonía con otros dispositivos del propio código procesal y de las garantías procesales y penales establecidas en la Constitución, dispone de menor libertad para la aplicación del método histórico en la reconstrucción del hecho pasado, pero no por ello deja de aplicar ese método, sino que lo hace condicionado por la precisión de las reglas impuesta normativamente”.

[7] MUÑOZ CONDE FRANCISCO, “Introducción al Derecho Penal”, pág.189, Editorial B de F, 2001. El autor aclara que el derecho penal, para ser ciencia, le falta todavía algo fundamental en la actividad intelectual del científico: la crítica.-

[8] NINO CARLOS S., “Algunos modelos metodológicos de “ciencia” jurídica”, Distribuciones Fontamara, México 1995, pág. 15. El autor señala que una característica de la dogmática jurídica consiste en no reconocer la índole normativa de su actividad y el hecho de que ella se apoya en presupuestos axiológicos subyacentes, bajo la pretensión de que consiste en una mera descripción del sistema positivo y que las soluciones propuestas se derivan únicamente de las normas jurídicas vigentes una vez que éstas son analizadas a través de cierto esquema conceptual “científicamente” construido. Pero la falta de reconocimiento de la función normativa de la dogmática jurídica no precluye tal función sino que determina que ella se lleva a cabo en forma encubierta y que generalmente se apoye en intuiciones acerca de la solución axiológicamente adecuada de casos más o menos circunscriptos,  en lugar de fundamentar las propuestas de reformulación del orden jurídico en un sistema consistente de principios axiológicos generales (op. cit. pág. 100).

[9] ENRIQUE BACIGALUPO, “Delito y Punibilidad”, Hammurabi 1999, pág. 40.-

[10] JIMÉNEZ DE ASÚA LUIS, “Tratado de Derecho Penal”, Losada 1965, T. I, , pág. 36.-

[11] CAFFERATA NORES JOSE I., “Cuestiones Actuales sobre el Proceso Penal”, Del Puerto, 1997, pág. 71.-

[12] JAUCHEN, Eduardo M., Tratado de la prueba en materia penal, Rubinzal-Culzoni, Buenos Aires, 2002, ps. 48-49, cit. por TENCA, Adrián M., “De la valoración de la prueba en el caso ‘Carrascosa’: El mito de la certeza”, LA LEY del 7/7/2009, p. 3, comentario a fallo Trib. Casación Penal Buenos Aires, sala I, 18/6/2009, “Carrascosa, Carlos A. s/rec. de casación”.

[13] CABALLERO, José, "La sana crítica en la legislación penal argentina", LA LEY, 1995-E, p. 630.

[14] C. Nac. Casación Penal, sala II, 4/4/1995, "Waisman, Carlos s/recurso de casación", causa 84.

[15]CLARIA OLMEDO, JORGE A., Derecho procesal penal, Tomo I, Buenos Aires, Rubinzal-Culzoni, 1998, págs. 273 a 275. En el mismo sentido Vélez Mariconde afirmaba: “El jurado popular no suministra ningún veredicto razonado. La íntma convicción habilita al jurado dictar un veredicto sin efectuar razonamiento alguno. Habilita a decidir sobre la libertad del imputado y los derechos de la víctima "porque sí", de modo irracional o aleatorio. Es más, la demanda que se le hace al jurado para que emita un veredicto conforme su "íntima convicción", suscita a estos juzgadores amateurs la peligrosa creencia de que se hace un llamado a su conciencia, en lugar de a su pensamiento lógico y razonado. No hay peor oscurantismo que suprimir en los actos humanos aquella única cualidad que separa a los hombres de las bestias: la razón. Si el hombre es un ser racional, y la razón es la única facultad necesaria para alcanzar la civilización, la justicia humana jamás debe prescindir del veredicto razonado.El juez letrado plasma la razón humana por escrito y garantiza la civilización. El jurado popular esconde la razón humana bajo el tapete de la libre convicción y sólo promueve la barbarie”. Vélez Mariconde, Alfredo, “Derecho procesal penal”, Tomo I, Buenos Aires, Lerner, 1969, págs. 219 a 227.

[16] Al respecto señalaba D´ALBORA que se cumple con esta obligación si el fallo está racional y concordantemente fundado, permitiendo extraer de las valoraciones que realiza el acierto de la conclusión a que llega; una motivación válida no requiere, como condición, que excluya explícitamente otra posibilidad contraria al hecho que sostiene, ya que sólo exige que se funde en pruebas válidas (CNCP, Sala IV, JA 2000-III-618). Es indispensable que exista un sustento operante como ligazón racional de la prueba con la aseveración; jamás puede quedar reservada a la intimidad de la conciencia de quien juzga (CNCP, Sala IV, D.J., 2000-3, pág. 171, f. 15.962). En esto consiste la obligación republicana para garantizar una correcta administración de la justicia (Preámbulo). Se cubre si la resolución guarda relación con los antecedentes que le sirven de causa y son congruentes con el punto decidido, suficientes para el conocimiento de las partes y para las eventuales impugnaciones que se pudieran receptar (CNCP, Sala II, L.L., del 31/VIII/2000, f. 100.805), “Código Procesal Penal de la Nación”, LexisNexis - Abeledo-Perrot, 2002, pág. 266.

[17] Taruffo, Michele, “La motivación de la sentencia civil”, Tribunal Electoral del Poder Judicial de la Federación, México, 2006, pág. 18.

[18] CLARIA OLMEDO JORGE A. “Derecho Procesal Penal”, Marcos Lerner, 1984, Tomo II, pág. 330.

[19] DÍAZ CANTON FERNANDO, “El control judicial de la motivación de la sentencia penal”, en MAIER JULIO B.J. (compilador), “Los recursos en el procedimiento penal”, Del Puerto 1999, pág. 68.-

[20] DÍAZ CANTON FERNANDO, “El control judicial de la motivación de la sentencia penal”, en MAIER JULIO B.J. (compilador), “Los recursos en el procedimiento penal”, Del Puerto 1999, pág. 73.-

[21] PÉREZ DEL VALLE CARLOS, “Teoría de la Prueba y Derecho Penal”, Cuadernos LUIS JIMÉNEZ DE ASÚA, Dykinson 1999, pág. 10. El autor concluye en que pese a que sería posible una valoración intuitiva de la prueba sustancialmente no arbitraria, no cabría una transmisión de la valoración no arbitraria sin un método racionalmente discursivo.

[22] Como objetivo consideró que la Inteligencia Artificial (IA) presenta enormes oportunidades globales: tiene el potencial de transformar y mejorar el bienestar humano, la paz y la prosperidad. Para lograr esto, afirmamos que, por el bien de todas las personas, la IA debe diseñarse, desarrollarse, implementarse y utilizarse de manera segura, centrada en el ser humano, confiable y responsable. 

…Además de estas oportunidades, la IA también plantea riesgos importantes, incluso en esos ámbitos de la vida diaria. Con ese fin, acogemos con satisfacción los esfuerzos internacionales pertinentes para examinar y abordar el impacto potencial de los sistemas de IA en los foros existentes y otras iniciativas relevantes, y el reconocimiento de que la protección de los derechos humanos, transparencia y explicabilidad, equidad, rendición de cuentas, regulación, seguridad, adecuada supervisión humana, aspectos éticos, mitigación de prejuicios, privacidad y protección de datos. También observamos el potencial de riesgos imprevistos derivados de la capacidad de manipular contenido o generar contenido engañoso. Todas estas cuestiones son de importancia crítica y afirmamos la necesidad y urgencia de abordarlas.

… Pueden surgir riesgos sustanciales debido a un posible uso indebido intencional o problemas de control no deseados relacionados con la alineación con la intención humana.

Estos problemas se deben en parte a que esas capacidades no se comprenden completamente y, por lo tanto, son difíciles de predecir. Nos preocupan especialmente estos riesgos en ámbitos como la ciberseguridad y la biotecnología, así como donde los sistemas de inteligencia artificial de vanguardia pueden amplificar riesgos como la desinformación. Existe la posibilidad de que se produzcan daños graves, incluso catastróficos, ya sean deliberados o no, derivados de las capacidades más importantes de estos modelos de IA. Dado el rápido e incierto ritmo de cambio de la IA, y en el contexto de la aceleración de la inversión en tecnología, afirmamos que es especialmente urgente profundizar nuestra comprensión de estos riesgos potenciales y de las acciones para abordarlos.

[23] https://www.youtube.com/watch?v=XMlyalVp4X0&t=321s

[24] Una máquina de Turing es un modelo matemático abstracto de computación que define el proceso de cálculo para cualquier algoritmo. Fue creada por Alan Turing en 1936 y consiste en una cinta infinita, un cabezal lector/escritor y una tabla de instrucciones que determinan su funcionamiento. Es la base teórica de las computadoras modernas. 

[25] https://www.lavanguardia.com/neo/20251020/11174932/yuval-noah-harari-historiador-mundo-deberia-entender-sobre-ia-herramienta-agente-primera-tecnologia-tomar-decisiones-pvlv.html

[26] También allí se destacó que: “Otro componente de la garantía de Juez Natural es la independencia de los órganos del Estado, que implica tanto la autonomía que debe regir sus relaciones mutuas -exigida por el principio de división poderes-, como también la inexistencia de intereses privados- ya sean propios de las personas que integran los órganos estatales, o ajenos- que puedan tener tal incidencia en sus decisiones, que conduzcan a una desnaturalización de la defensa de los intereses públicos por los que deben velar. Asimismo, se integra con la imparcialidad que se trata de una condición que deben poseer todos los integrantes de los órganos estatales con capacidad para adoptar decisiones públicas, que significa –en los hechos- que no tengan prejuicios o intereses personales de ningún tipo en relación con las partes en un proceso, que puedan afectar la rectitud de su pronunciamiento. Por último, el establecimiento de los jueces o tribunales por ley previa es una garantía procesal que está íntimamente vinculada con la competencia, y que tiene por objetivo impedir la creación de tribunales ad hoc”.

[27] En la misma decisión se dijo: “…el Acuerdo Plenario n° 5435/2025 del Superior Tribunal de Justicia de la provincia del Chubut, autoriza el uso del ChatGPT y de la IA Generativa, aunque en base a un protocolo –aprobado en dicho Acuerdo como Anexo- cuyos lineamientos son de cumplimiento obligatorio.…garantizar el control humano, asegurando que toda decisión judicial continúe siendo responsabilidad de magistrados, enfatizando que de ninguna manera puede delegarse la toma de decisiones en la IAGen. Además, se pretende en dicho Anexo resguardar la información sensible del Poder Judicial y de las partes involucradas, desplegando herramientas que contribuyan a la anonimización cuando sea ello necesario. También alude enfáticamente al control humano, exigiendo que todas las respuestas generadas por sistemas de IAGen deben ser supervisadas tanto antes como después de su aplicación, y su uso, alineado con los principios fundamentales del derecho y la justicia, como la imparcialidad, la equidad y el respeto por los derechos fundamentales. Culmina el Anexo aprobado, prohibiendo la delegación de decisiones judiciales a sistemas automáticos, puntualizando”. Cámara en lo Penal de la Circunscripción Judicial de Esquel, “PROVINCIA DEL CHUBUT c/ P.R.A.”, Carpeta judicial nro. 6209, 15/10/25, voto del Dr. Zacchino.