este 22

Por

greg rosalsky

,

emma guisante

Mientras muchos estadounidenses tenían resaca el día de Año Nuevo, Edward Tian, ​​de 22 años, trabajaba febrilmente en una nueva aplicación para combatir el mal uso de una nueva y poderosa herramienta de inteligencia artificial llamada ChatGPT.

Dado el revuelo que ha creado, es muy probable que haya oído hablar de ChatGPT. Es un chatbot interactivo impulsado por aprendizaje automático. La tecnología básicamente ha devorado todo Internet, leyendo las obras colectivas de la humanidad y aprendiendo patrones en el lenguaje que puede recrear. Todo lo que tiene que hacer es darle un aviso, y ChatGPT puede hacer una variedad infinita de cosas: escribir una historia en un estilo particular, responder una pregunta, explicar un concepto, redactar un correo electrónico, escribir un ensayo universitario, y escupirá texto coherente, aparentemente escrito por humanos en segundos.

La tecnología es asombrosa y aterradora.

"Creo que estamos absolutamente en un punto de inflexión", dice Tian. "Esta tecnología es increíble. Creo que es el futuro. Pero, al mismo tiempo, es como si estuviéramos abriendo la caja de Pandora. Y necesitamos salvaguardas para adoptarla de manera responsable".

Tian es estudiante de último año en la Universidad de Princeton, donde se especializa en informática y tiene una especialización en periodismo. Antes de su reciente incursión en el centro de atención, los mayores planes de Tian eran graduarse de la universidad y sacarse las muelas del juicio. Ahora recibe llamadas de firmas de capital de riesgo, líderes educativos y medios de comunicación globales.

Durante los últimos dos años, Tian ha estado estudiando un sistema de inteligencia artificial llamado GPT-3, un predecesor de ChatGPT que era menos fácil de usar y en gran medida inaccesible para el público en general porque estaba detrás de un muro de pago. Como parte de sus estudios este semestre de otoño, Tian investigó cómo detectar texto escrito por el sistema de IA mientras trabajaba en el Laboratorio de Procesamiento del Lenguaje Natural de Princeton.

Luego, cuando el semestre estaba llegando a su fin, OpenAI, la compañía detrás de GPT-3 y otras herramientas de IA, lanzó ChatGPT al público de forma gratuita. Para los millones de personas en todo el mundo que la han usado desde entonces, interactuar con la tecnología ha sido como echar un vistazo al futuro; un futuro que no hace mucho hubiera parecido ciencia ficción.

A pesar de haber estudiado IA, Tian, ​​como el resto de nosotros, quedó atónito por el poder de ChatGPT. Él y sus amigos lo usaban para escribir poemas y raps sobre los demás. "Y fue como: 'Vaya, estos resultados son bastante buenos'", dice Tian. Parecía que todos en el campus hablaban de lo notable que era esta nueva tecnología. Claro, el texto que genera es bastante formulado y no siempre preciso. Pero también se siente como el comienzo de una revolución.

Para muchos usuarios de la nueva tecnología, el asombro se convirtió rápidamente en alarma. ¿Cuántos trabajos matará esto? ¿Esto empoderará a los actores nefastos y corromperá aún más nuestro discurso público? ¿Cómo afectará esto a nuestro sistema educativo? ¿Cuál es el punto de aprender a escribir ensayos en la escuela cuando la IA, que se espera que mejore exponencialmente en el futuro cercano, puede hacer eso por nosotros?

Stephen Marche, escribiendo en The Atlantic el mes pasado, declaró "El ensayo universitario está muerto". Describe ChatGPT y la revolución de la IA como parte de una crisis existencial para las humanidades. "El ensayo, en particular el ensayo de pregrado, ha sido el centro de la pedagogía humanística durante generaciones", escribe Marche. "Es la forma en que enseñamos a los niños a investigar, pensar y escribir. Toda esa tradición está a punto de ser interrumpida desde cero".

Después de que terminó el semestre de otoño, Tian viajó a su casa en Toronto para pasar las vacaciones. Salía con su familia. Vio Netflix. Pero no podía dejar de pensar en los desafíos monumentales que enfrenta la humanidad debido al rápido avance de la IA.

Y entonces tuvo una idea. ¿Qué pasaría si aplicara lo que aprendió en la escuela durante los últimos dos años para ayudar al público a identificar si algo ha sido escrito por una máquina?

Tian ya tenía los conocimientos e incluso el software en su computadora portátil para crear dicho programa. Irónicamente, este software, llamado GitHub Co-Pilot, funciona con GPT-3. Con su ayuda, Tian pudo crear una nueva aplicación en tres días. Es un testimonio del poder de esta tecnología para hacernos más productivos.

El 2 de enero, Tian lanzó su aplicación. Lo llamó GPTZero. Básicamente, usa ChatGPT contra sí mismo, verificando si "hay una participación nula o mucha participación" del sistema de IA en la creación de un texto determinado.

Cuando Tian se acostó esa noche, no esperaba mucho de su aplicación. "Cuando publiqué esto, pensé que tal vez unas pocas docenas de personas, en el mejor de los casos, podrían intentarlo", dice Tian. "No me esperaba lo que pasó".

Cuando Tian se despertó, su teléfono había explotado. Vio innumerables mensajes de texto y mensajes directos de periodistas, directores, profesores, lo que sea, de lugares tan lejanos como Francia y Suiza. Su aplicación, alojada en una plataforma gratuita, se hizo tan popular que colapsó. Emocionado por la popularidad y el propósito de su aplicación, la plataforma de hospedaje le otorgó a Tian los recursos necesarios para escalar los servicios de la aplicación a una audiencia masiva.

Tian dice que tiene un par de motivaciones principales para crear GPTZero. La primera es la transparencia. "Los humanos merecen saber cuándo algo está escrito por un humano o por una máquina", dice.

En este sentido, una aplicación obvia de GPTZero es ayudar a los profesores a identificar si sus alumnos están plagiando sus ensayos de ChatGPT. "Los maestros de todo el mundo están preocupados por esto", dice Tian.

Sin embargo, algunos en el mundo de la tecnología no están del todo convencidos de que copiar y pegar lo que escupe ChatGPT sea incluso un problema. "El 'plagio de ChatGPT' no es un problema", tuiteó Marc Andreessen, un capitalista de riesgo y pionero de Internet, a principios de este mes. "Si no puedes escribir más que una máquina, ¿qué haces escribiendo?"

Elon Musk, uno de los cofundadores originales de OpenAI, tuiteó recientemente: "Es un mundo nuevo. ¡Adiós tarea!". en respuesta a los informes de que las escuelas estaban imponiendo nuevas medidas estrictas contra el plagio de ChatGPT.

Por supuesto, estos son solo tweets frívolos. Pero realmente se siente como si hubiéramos entrado en un nuevo mundo en el que nos vemos obligados a reevaluar nuestro sistema educativo e incluso el valor, o al menos el método, de enseñar a los niños a escribir.

Muchos de nosotros perdimos nuestra voluntad, incluso nuestra capacidad, para recordar números de teléfono cuando aparecieron los teléfonos celulares. Al subcontratar la memorización a una máquina, nos hemos vuelto dependientes de ella para llamar a nuestros amigos y familiares. Se podría decir que ha sido lo mejor, y ha liberado nuestras mentes para concentrarnos en otros asuntos. O podrías considerarlo como una especie de des-evolución, un embrutecimiento de nuestras habilidades mentales. ¡No pierdas tu celular!

Ahora la humanidad se enfrenta a la perspectiva de una dependencia aún mayor de las máquinas. Es posible que nos dirijamos hacia un mundo en el que una franja aún mayor de la población pierda la capacidad de escribir bien. Es un mundo en el que toda nuestra comunicación escrita podría convertirse en una tarjeta de Hallmark, escrita sin nuestra propia creatividad, personalidad, ideas, emociones o idiosincrasia. Llámalo la Hallmarkización de todo.

Pero al menos cuando le damos a la gente tarjetas Hallmark, la gente sabe que les estamos dando tarjetas Hallmark. Si usa ChatGPT para escribirle a su amigo una felicitación o una disculpa, es posible que ni siquiera sepa que fue escrito por una máquina.

Lo que nos lleva al otro propósito que Tian prevé para su aplicación: identificar e incentivar la originalidad en la escritura humana. "Estamos perdiendo esa individualidad si dejamos de enseñar escritura en las escuelas", dice Tian. "La escritura humana puede ser tan hermosa, y hay aspectos de ella que las computadoras nunca deberían cooptar. Y parece que eso podría estar en riesgo si todos usan ChatGPT para escribir".

Tian no es un ludita. No está tratando de detener a la IA en seco. Él cree que eso es imposible y, dice, se opone a las prohibiciones generales contra el uso de ChatGPT, como la que anunciaron recientemente las escuelas públicas de la ciudad de Nueva York. Él cree que los estudiantes usarán la tecnología de todos modos. Y, dice, es importante que puedan aprender a usarlo. Necesitan ser conscientes de los cambios tecnológicos que están barriendo nuestro mundo. "No tiene sentido que vayamos a ese futuro a ciegas", dice. "En cambio, necesitas construir las salvaguardas para entrar en ese futuro".

En cuanto a sus planes para después de la universidad, dice Tian, ​​el entusiasmo y la clara demanda por su nueva aplicación lo han convencido de que debe concentrarse en hacer de ella un producto mejor y más preciso. "Si eres maestro o educador, nuestro equipo, que en este momento somos solo yo y mi mejor amigo de la universidad, que se unió ayer, nos encantaría hablar contigo", dice Tian.

Entonces, si encuentra algún texto que sospecha que puede haber sido escrito por una máquina, ¿quizás lo ejecute a través de la nueva aplicación de Tian? Puede encontrarlo en GPTZero.me.

Actualizamos este artículo para estar más en línea con nuestros estándares de nombres.