Sam Altman es la cara visible de OpenAI, la organización californiana a cargo de ChatGPT, el chatbot con inteligencia artificial (IA) que este año ha deslumbrado al mundo por sus capacidades y que también asusta, en función de los riesgos asociados a su uso. El empresario y programador de 38 años expresó las dos caras de la moneda en el Congreso de Estados Unidos, donde sorprendió al recomendar regulaciones a los desarrollos de IA. “Mi peor miedo es que causemos un daño significativo al mundo”, dijo.
Sam Altman ante el Congreso de Estados Unidos
El director ejecutivo de OpenAI se presentó el martes ante un Comité del Senado especializado en privacidad y tecnología, que lo interrogó acerca del funcionamiento de ChatGPT, enfocándose tanto en las ventajas como en los riesgos vinculados al despliegue de sistema de IA en general.
Recientemente, en TN Tecno dimos cuenta del interés del gobierno estadounidense en el avance de ChatGPT y otras propuestas del sector, entre ellas Bard de Google y los generadores automáticos de imágenes como DALL-E y Midjourney. Según contamos, el propio Joe Biden probó al famoso chatbot y desde la Casa Blanca habían anticipado que evaluarían posibles regulaciones a los desarrollos.
De acuerdo a BBC, el llamado de Altman fue calificado como “histórico” por Dick Durbin, senador del Partido Demócrata, siendo que las industrias suelen oponerse a los controles gubernamentales. El CEO de OpenAI “realizó una comparecencia con respuestas reflexivas, incluso ante cuestionamientos muy directos sobre las implicaciones que tiene la IA ahora y las que puede tener en el futuro cercano”, notó la fuente.
Las declaraciones más potentes de Sam Altman en el Congreso de EE.UU.
“El gobierno de EE.UU. debería considerar una combinación de requisitos de licencia o registro para el desarrollo y lanzamiento de modelos de IA por encima de un umbral crucial de capacidades, junto con incentivos para el pleno cumplimiento de estos requisitos”.
“Creemos que la intervención reguladora de los gobiernos será fundamental para mitigar los riesgos de modelos cada vez más potentes”.
“Habrá un impacto en los empleos. Tratamos de ser muy claros al respecto”.
“Creo que necesitamos normas, directrices, sobre lo que se espera en términos de divulgación de una empresa que proporciona un modelo (…) Estoy nervioso al respecto”.
“Necesitamos maximizar lo bueno sobre lo malo. El Congreso tiene una oportunidad ahora mismo. Tuvimos la misma opción cuando nos enfrentamos a las redes sociales. No pudimos aprovechar ese momento”.Siguiendo a CNN, las declaraciones de Altman se produjeron un día después de una cena con más de 60 legisladores de la Cámara de Representantes. En ese encuentro bipartidista, el empresario hizo una demostración de los usos de ChatGPT. De acuerdo a uno de los asistentes, los legisladores quedaron “fascinados”.
No todo es malo: el “lado luminoso” de la inteligencia artificial, según Sam Altman
ChatGPT ganó fama primero por sus habilidades para realizar tareas antes reservadas a los humanos, y luego por los riesgos asociados a su uso.
¿Cuáles son esas capacidades? El sistema que OpenAI abrió al público general expandió los alcances de la IA en manos de los usuarios de a pie. Es capaz de redactar textos coherentes, responder a preguntas complejas, resolver ecuaciones, escribir el código de los softwares, crear canciones, entre otras habilidades en una larga lista.
En su testimonio en el Congreso estadounidense, Altman no fue únicamente crítico con la tecnología que ahora lo tiene como emblema. El CEO de OpenAI dijo que la IA tiene potencial para ayudar a encontrar soluciones a problemas que aquejan a la humanidad, desde la contaminación medioambiental hasta enfermedades.
Altman dijo que los avances en IA pueden ser tan significativos como lo fue la invención de la imprenta aunque, como hemos visto, no eludió los riesgos latentes. Además de los mencionados, señaló que sistemas como ChatGPT pueden ser usados nocivamente en el marco de elecciones y notó que aquella es una “área de gran preocupación”.
Hace algunas semanas, Altman exhibió su interés en retrasar a la muerte cuando invirtió discretamente en una startup de biotecnológica, llamada Retro Biosciences, que trabaja con IA e ingeniería genética para rejuvenecer las células humanas.
Avance de la inteligencia artificial: los riesgos asociados a estas tecnologías
Según detallamos cuando un hombre en China fue arrestado por crear noticias falsas con ChatGPT para conseguir más clics en sus publicaciones, los sistemas de IA involucran una serie de peligros. A continuación, algunos de ellos.
Transparencia: ¿Sabemos cómo usa los datos ChatGPT, la información que ingresamos y que sirve para su entrenamiento?
Derechos de propiedad intelectual: ¿Estas tecnologías contemplan las obligaciones vinculadas al uso de contenido de terceros? Ya hemos visto conflictos por el empleo de material sin el debido reconocimiento de la fuente y pagos asociados a las leyes de copyright.
Niveles de autonomía: ¿Qué peligros implica crear sistemas cada vez más independientes, que no necesitarán la intervención humana? Recientemente, el célebre inversor Warren Buffett dijo sobre ChatGPT: “Puede hacer todo tipo de cosas. Y cuando algo puede hacer todo tipo de cosas, me preocupo un poco”.
Los difusos límites entre las creaciones humanas y las artificiales: A medida que estas tecnologías avanzan, ¿somos capaces de saber a ciencia cierta si el contenido que llega a nosotros fue creado por una persona o por una máquina? En ChatGPT desafía a la docencia examinamos más a fondo aquel interrogante.En función de esos problemas latentes, especialistas, autoridades y empresarios (entre ellos, ahora, Sam Altman) piden normas para el desarrollo de sistemas de inteligencia artificial. En la vereda opuesta, están aquellos que opinan que los riesgos que derivan del uso de la IA son preferibles a las regulaciones.
¿Quién es Sam Altman? 5 datos sobre el CEO de OpenAI
Nació el 22 de abril de 1985 en Chicago, Estados Unidos.
Su nombre completo es Samuel Altman.
En su biografía se indica que comenzó a usar computadoras a los 8 años.
Estudió informática en la Universidad de Stanford, abandonó esa carrera en 2005, y recibió un título honorario en la Universidad de Waterloo en el 2017.
Fundó y dirigió numerosas empresas. A los 19 creó la firma detrás de la red social Loopt; fue socio de Y Combinator, y en 2019 pasó a OpenAI. Además es inversor en múltiples compañías, entre ellas Reddit (de la que también fue CEO durante una brevísima estadía), Pinterest y Airbnb.
