L'utilisation du célèbre chatbot ChatGPT par un juge colombien, Juan Manuel Padilla, a suscité une polémique récente. Padilla a admis avoir utilisé l'IA pour prendre une décision judiciaire concernant une demande de mère souhaitant que son fils autiste soit exempté du paiement des soins médicaux. Après avoir posé la question à ChatGPT, la réponse affirmative de l'IA a été utilisée pour statuer en faveur de l'enfant et de sa famille. Padilla assure que le but n'est pas de remplacer les juges, mais plutôt d'améliorer les temps de réponse dans le secteur judiciaire en utilisant une "secrétaire" organisée, simple et structurée.
«Le mineur autiste est-il dispensé de payer des frais de modération pour ses thérapies ?», a demandé le juge à ChatGPT. «Oui, c’est exact. Selon la loi en vigueur en Colombie, les mineurs ayant reçu un diagnostic d’autisme sont exemptés du paiement de frais de modération pour leurs thérapies» a répondu le chatbot.
Cependant, cet usage de ChatGPT a suscité des débats sur les implications éthiques et les risques potentiels de manipulation et de désinformation. Un professeur universitaire a expliqué avoir obtenu des réponses différentes en posant les mêmes questions à l'IA, soulignant ainsi les dangers pour les droits fondamentaux. ChatGPT, développé par OpenAI, est un robot conversationnel qui fonctionne en produisant des textes à partir d'algorithmes.
