Un detector de IA asegura que la Constitución de EEUU está “escrita en su totalidad” por una inteligencia artificial

<p>Si introduces la Constitución de Estados Unidos en una herramienta que detecta texto escrito por modelos de <a href=”https://www.20minutos.es/minuteca/inteligencia-artificial/” title=”Inteligencia artificial”>inteligencia artificial </a>(IA) como ChatGPT, te dirá que el documento legal está escrito por dicha tecnología. Pero a menos que James Madison fuese un viajero en el tiempo, esta afirmación no puede ser cierta. Por lo tanto, ¿cómo es posible que dichas herramientas den falsos positivos?</p><p><a href=”https://arstechnica.com/information-technology/2023/07/why-ai-detectors-think-the-us-constitution-was-written-by-ai/” target=”_blank” rel=”nofollow”>Ars Technica</a> habló con el creador de GPTZero para saber cómo estos programas pueden ‘mentir’, sacando como conclusión que si insertas parte de la Constitución estadounidense en GPTZero, la inteligencia artificial indica que <b>el texto “probablemente está escrito enteramente por IA</b>”.</p><p>Ante dicha afirmación, Edward Tian (creador de GPTZero) señala que “la Constitución de Estados Unidos es un texto que <b>se introduce repetidamente en los datos de entrenamiento</b> de bastantes modelos lingüísticos. Como resultado, muchos de estos grandes modelos lingüísticos están <b>entrenados para generar textos similares </b>a la Constitución y otros textos de entrenamiento utilizados con frecuencia. GPTZero predice el texto que probablemente generarán los grandes modelos lingüísticos, y así se produce este <b>fascinante error</b>”.</p><p>Por otro lado, un <a href=”https://go.skimresources.com/?id=100098X1555750&amp;isjs=1&amp;jv=15.4.2-stackpath&amp;sref=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F07%2Fwhy-ai-detectors-think-the-us-constitution-was-written-by-ai%2F&amp;url=https%3A%2F%2Farxiv.org%2Fabs%2F2303.11156&amp;xs=1&amp;xtz=-120&amp;xuuid=ea777206398f873a98ac87e592ca8e10&amp;xjsf=other_click__auxclick%20%5B2%5D” target=”_blank” rel=”nofollow”>estudio </a>de los investigadores de la Universidad de Maryland demostró que<b> los detectores de texto no son confiables en escenarios prácticos</b>. Asimismo, otro <a href=”https://go.skimresources.com/?id=100098X1555750&amp;isjs=1&amp;jv=15.4.2-stackpath&amp;sref=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F07%2Fwhy-ai-detectors-think-the-us-constitution-was-written-by-ai%2F&amp;url=https%3A%2F%2Farxiv.org%2Fabs%2F2304.02819&amp;xs=1&amp;xtz=-120&amp;xuuid=ea777206398f873a98ac87e592ca8e10&amp;xjsf=other_click__auxclick%20%5B2%5D” target=”_blank” rel=”nofollow”>estudio </a>de los investigadores de la Universidad de Stanford mostró que “la detección de escritura por inteligencia artificial está sesgada contra los hablantes no nativos de inglés, debido a que<b> arroja altas tasas de falsos positivos</b> para su trabajo escrito por humanos y potencialmente penalizándolos en el discurso global”.</p><p>En última instancia, los detectores pueden hacer una conjetura sólida, pero el margen de error es demasiado grande para confiar en ellos para obtener un resultado preciso.</p><p><a href=”https://www.20minutos.es/estaticos/20bits-newsletter/” target=”_blank”>Apúntate a nuestra <i>newsletter </i>y recibe en tu correo las últimas noticias sobre tecnología.</a></p>