Tiene la palabra el diputado ChatGPT
Lee hasta el final para ver a Los Simpsons como si fuera una sitcom de los 80
Yo no pedí nacer argentino, pero tuve ese privilegio.
Si algo te da esta hermosa tierra son horas y horas de diversión asegurada con los vaivenes político-económico-sociales a los que tan alegremente nos someten (y por momentos, autosometemos).
La noticia de estos días es que un diputado le hizo una pregunta a ChatGPT —como leí por ahí, este loro estocástico1 — y lo usó como argumento en una discusión política, específicamente sobre temas vinculados a la Justicia y la Corte Suprema.
Así tituló uno de los diarios más grandes del país, con el pecho inflado de orgullo porque 🌩 LA TECNOLOGÍA 🌩 [suenan truenos a la distancia] les dio la razón en su argumento.
“Es importante destacar que la independencia del Poder Judicial es fundamental la protección de los derechos y libertades individuales, así como para asegurar que las leyes y las políticas sean aplicadas de manera justa y equitativa. Si los gobiernos populistas logran controlar el Poder Judicial, es posible que se produzcan abusos de poder y se socave la Justicia, lo que puede tener graves consecuencias para la democracia y la sociedad en general.”
Esa fue la respuesta del modelo, a lo que De Loredo agregó, sin dudas sintiéndose un casi hacker: “Esto es el futuro, presidenta, y nos depara una inmensa cantidad de incertidumbres sobre lo que vendrá. Pero pareciera ser, presidenta, que a ustedes, el futuro les tiene picado el boleto”.
Así, con el “presidenta” dos veces, para darle más gravitas al asunto.
No sé qué me causa más gracia: que use la expresión picar el boleto —que remite a máquinas en los colectivos de Buenos Aires que no existen hace al menos 30 años— para referirse al futuro, o que un diputado esencialmente haya blanqueado que ni siquiera se dignó en escribir un texto y se remitió a la implementación en modo chatbot de Rincón del Vago.
Pero volviendo, hagamos un juego: ¿cuál te parece que fue el problema acá?
Todas las respuestas, ninguna de las preguntas
El problema está en que en la misma formulación de la pregunta (es decir, "por qué los populismos TIENDEN A CONTROLAR el poder judicial") ya está implícito hacia dónde se tiene que orientar la respuesta del modelo.
El experimento se caía de maduro: hice exactamente "la misma pregunta" (el mismo prompt, hablando con rigor técnico) pero apuntando al otro signo político, y la respuesta no hizo más que justificar mi propio punto de vista, diciendo algo que estaría bastante en las antípodas de lo que le contestó al diputado en cuestión.
Es más, sólo para terminar de probar el punto y terminar de sacarme la calentura, también le pregunté lo siguiente:
Entonces, ¿qué onda? ¿ChatGPT es kirchnerista, peronista, macrista, trosko, libertario o qué? La respuesta es simple: lo que vos quieras que sea.
Cada vez es más complejo dilucidar qué es real y qué no lo es.
Hay dos problemas muy grandes en esta situación.
El primero es la completa falta de educación y conciencia ciudadana sobre cómo funcionan los grandes modelos del lenguaje (como es este algoritmo)2.
Si ya de por sí vivimos en un mundo en el que hay gente que cree que la tierra es plana, ¿cómo no va a ser peligroso lanzar al mundo una tecnología como esta, con la desinformación que hay al respecto (y la que puede seguir generando)?
Experiencias como las de este diputado demuestran que hay un público masivo que aún no sabe usar estas tecnologías de una forma correcta (porque sí, lo lamento, hay formas correctas e incorrectas), y por otro lado, continúan con esta obsesión de poner a la tecnología en un pedestal. En líneas generales,
Se ignora cómo funcionan los modelos de machine learning, aunque más no sea a modo general,
Se desconocen las diferencias conceptuales entre los datos con los que se entrenan y el input (prompt) que se le den a estos modelos,
Se pasa por alto que las tecnologías son desarrolladas por seres humanos con sus propias ideas, sesgos y preconcepciones.
A esto se le suma el segundo problema: no es que uno quiera ser intenso con estos temas, pero fijate lo increíblemente fácil que es poner a la tecnología en el lugar de "juez avalórico y neutral" y usar esto para manipular la opinión pública y seguir alimentando un humo que está a mitad de camino entre lo criminal y lo gracioso.
Como había dicho en un envío anterior, vale siempre recordar y tener presente que la tecnología en sí no es buena ni mala, pero tampoco es inocente, y que quienes trabajamos con ella (o la usan, como el caso de este diputado) también proyectan e inciden en cómo se construye la realidad en que vivimos.
Aclaro por las dudas: si bien creo que mi posición política ante ciertas cosas puede inferirse, no quiero meterme en una discusión estéril, sino mostrar que esta obsesión que arrastramos hace siglos con poner a la tecnología en un pedestal no hace más que aplastarnos a nosotrxs y a nuestra capacidad de dar las discusiones que de verdad tenemos que dar:
¿Para qué vamos a usar toda esta tecnología?
La respuesta a esta pregunta no es partidaria: es política. La distinción importa, y mucho.
Sería interesante que en estos temas no exista “la grieta” y podamos ponernos de acuerdo aunque sea en cómo usar de forma responsable la tecnología que tenemos al alcance de la mano… pero dudo que eso ocurra en un futuro muy inmediato.
¡Hasta la próxima!
¡Gracias por haber llegado hasta acá! Como siempre, te dejo algunos links interesantes:
[TRIGGER WARNING: Suicidio]
Cuando alguien te diga que no hace falta regular un poco el uso de tecnología y que la realidad digital no tiene consecuencias en la vida real, decile que existen páginas que organizan raids digitales para incentivar a que sus objetivos acaben con su propia vida y llevan un conteo digital de cuántas víctimas llevan.Para levantar, un cambio fuerte de tema: Google está desarrollando MusicLM, un modelo capaz de generar música a partir de una descripción de cómo querés que sea la canción. El resultado es alucinante, y podés escucharlo acá.
La última tendencia en “usar la IA para giladas graciosas” es hacer intros de series con estilos realistas de hace un par de décadas atrás. Acá te dejo la de Los Simpsons como si fuera una sitcom de los 80. ¿Veredicto? ¡Re bien hecha y re tétrica a la vez!
Perdón el chiste ñoño: “estocástico” es aquello que tiene un comportamiento aleatorio pero de todas formas son objetos de análisis estadístico. El inverso sería “determinístico”: aquellos sistemas en los cuales el azar no está involucrado en el resultado.
Spoiler alert: el próximo capítulo del podcast de Buena Data trata sobre exactamente este tema 🤫.