26.07.2024
Parejas virtuales, desempleo y alucinaciones: dilemas de la IA
28.02.2024
Desde que ChatGPT, la plataforma de inteligencia artificial generativa (IA), hizo su debut el año pasado, millones de usuarios han descubierto cómo puede ahorrar tiempo y hacer la vida más fácil. Hágale una pregunta y en segundos habrá redactado un correo electrónico para usted o creado un cronograma para sus próximas vacaciones.
Pero con esta tecnología apenas en su infancia, ¿deberíamos preocuparnos por lo que la sociedad puede perder si la IA asume una lista cada vez mayor de funciones que alguna vez fueron realizadas por humanos?
"Si la gente se siente inquieta, tiene sentido. Estamos en un momento estresante", dijo Jennifer Strong , periodista que cubre el impacto de las nuevas tecnologías en la sociedad, en un debate sobre IA en el festival cultural New York Encounter celebrado a principios de este mes en Manhattan.
Strong se unió a Jon Stokes , cofundador y director de producto de Symbolic AI, en una conversación sobre las posibles promesas y peligros de la IA.
'Reemplazará algunos tipos de mano de obra'
Strong y Stokes, periodista tecnológico y empresario tecnológico, coincidieron en una cosa: la IA generativa ocupará el lugar de los humanos y provocará la pérdida de puestos de trabajo.
El uso de la IA generativa ha sido principalmente como una "herramienta de eficiencia de la productividad", dijo Strong. "Esta fue en todos los sectores, en todas partes, una forma de ahorrar tiempo y dinero".
Quienes ocupan puestos de nivel superior no necesitan preocuparse por sus puestos de trabajo por ahora, dijeron los panelistas. Sin embargo, los escritores y reporteros principiantes cuyo trabajo es leer comunicados de prensa y discursos y escribir sobre sus aspectos más destacados ya están siendo reemplazados por la IA.
Stokes, cuya empresa crea herramientas de inteligencia artificial para escritores y editores, reconoció que entregar estas funciones a una máquina tiene un precio.
"Pero la otra cara de la moneda es que hacer todo ese [trabajo] te entrena. Te hace mejor. Por eso creo que es posible que tengamos un problema de reserva de talentos en el futuro debido a la generación de IA. Si se hace cargo de las cosas de bajo nivel", dijo.
Como periodista, Strong compartió su preocupación sobre cómo la IA afectará a su industria. "Y tenemos un problema con la reserva de talentos. ¿Cómo conseguir un periodista de investigación si no tienes una sala de redacción y no tienes esa tutoría, ese trabajo, esa capacitación en el trabajo?
Alucinaciones y errores de la IA
Davide Bolchini , decano ejecutivo asociado de la Escuela de Informática Luddy de la Universidad de Indiana, quien moderó el panel, planteó la cuestión de las "alucinaciones" de la IA. Un tribunal ordenó recientemente a AirCanada , dijo, que emitiera un reembolso a un cliente que recibió información incorrecta sobre las tarifas del robot impulsado por inteligencia artificial de la aerolínea.
Si la IA introduce errores, dijo Strong, anula su propósito como dispositivo para ahorrar tiempo.
"La única razón por la que comenzamos a usar la IA para examinar una gran cantidad de datos y ejemplos y todo esto y buscar patrones y coincidencias de patrones es porque nosotros, como humanos, no somos fabulosos en eso. Y ahora nos estamos poniendo en una posición en la que hemos cerrado el círculo y tenemos que tomar todo esto y comenzar a analizarlo", dijo Strong.
Tales alucinaciones pueden dañar la reputación personal, dijo Strong, señalando el ejemplo del profesor de derecho Jonathan Turley .
En 2023, el nombre de Turley apareció cuando se le pidió a ChatGPT que creara una lista de juristas que habían agredido sexualmente a alguien. Su nombre surgió simplemente porque había impartido clases sobre discriminación sexual y agresión sexual.
Strong dijo que Turley "ahora está asociado con esas palabras, parece ser acusado por AI de cometer estos crímenes y parece que no puede escapar de eso", dijo Strong. "Sí, creo que la verdad importa".
Añadió que es difícil corregir los errores de la IA porque "la IA no es una simple base de datos".
"Si decidimos eliminar algo que no es cierto después de haber pasado por este proceso de aprendizaje automático, realmente no podemos hacerlo. Microsoft Research pasó siete meses el año pasado tratando de ver si podía ayudar a un modelo a olvidar algo, y no pudo descubrir cómo", dijo Strong.
novias de IA
Cuando se le preguntó sobre cualquier inquietud que pudiera tener sobre la IA, Stokes, el ingeniero de IA, dijo que le preocupa que algunas personas puedan "abandonar la conexión humana por una especie de mundo de su propia construcción", tal vez con una " novia de IA en la realidad virtual ".
"Creo que algunas personas se aislarán y las mentes de otras se bifurcarán y abandonarán el colectivo", dijo.
Otros, dijo, "intentarán mantener conexiones y relaciones reales y, en algunos casos, tal vez utilicen alguna generación de IA para aumentarlas".
Explicó que, alternativamente, la IA se puede utilizar para unir a las personas.
"Me refiero a las promesas de traducción y de otro tipo de trabajos. Hay una historia que puedes contar sobre la generación de IA, donde maximiza el ancho de banda de comunicación. Por ejemplo, las personas cuyo lenguaje tal vez sea incómodo, que son malos para armar construcciones lingüísticas, pueden hacer realidad sus ideas con la IA generativa. Y por eso puede ser una ayuda para la comunicación", afirmó.
"Pero me preocupa que esto se convierta en una obsesión o un fin en sí mismo, una forma en que las personas escapan y se distancian aún más", dijo Stokes.
Frente a la IA: huelga de guionistas
No es inevitable que la IA saque a los humanos por completo del proceso creativo, dijo Strong.
Si bien actualmente se utiliza la IA para "escribir el primer borrador de todo", señala que vimos resistencia a ella con la huelga de guionistas de 2023 en Hollywood.
"Vimos a la industria cinematográfica realmente dar un paso al frente y decir: 'Oye, nos vas a recortar el salario porque nos estás quitando la parte que es más exclusiva para nosotros y más valorada de nosotros'. Nos darás un primer borrador de una película y luego nos dirás que la hagamos bien. Y nunca ha funcionado de esa manera", dijo.
"Creo que vamos a ver a más personas diciendo simplemente: 'Está bien, la tecnología es excelente, pero ¿cuál es el propósito, a quién sirve y por qué está aquí? ¿Y cómo no ponérmelo encima y dejarme interactuar con él? Creo que [esta] será una de las grandes tendencias a tener en cuenta", dijo Strong.
Por Zelda Caldwell
