El gigante tecnológico lanzó en mayo una versión mejorada de su plataforma, Bard, en un esfuerzo por ofrecer a los usuarios funciones que tiene ChatGPT-4, e incluso algunas mejores.

Una de las principales actualizaciones fue la anunciada este jueves: la plataforma de Google ya está disponible en español y otras cuatro decenas de idiomas. Hasta antes de esto, los usuarios solo podían escribir comandos en inglés, japonés y coreano.

Con esto, las diferencias entre ambos sistemas aún son perceptibles, pero los expertos consideran que la carrera se está igualando.

“En estos momentos ChatGPT-4 tiene clara ventaja. Bard está llegando como un retador, no como un líder”, considera Ricardo Carreón, director de tecnología de Hexabit, una firma de IA con sede en Texas, EE.UU.

“Pero se va a acercar y va a ser una competencia real entre las plataformas. El asunto será cómo evoluciona la base de usuarios en ambas. A fin de cuentas lo que está en juego es quién va a tener más usuarios“, señala Carreón a BBC Mundo.

“A medida que continuamos desarrollando Bard de manera responsable, estamos ampliando gradualmente el acceso a más países y regiones en inglés. Continuaremos implementándolo con el tiempo”, le dijo una fuente de Google a BBC Mundo, sin especificar fechas.

Por el contrario, una ventaja que tiene frente a ChatGPT-4 es que este último es una versión de pago (US$20), mientras que el chatbot de Google es de uso gratuito.

Fuera de eso, ¿qué tan cerca o lejos están las nuevas funciones de Bard respecto a ChatGPT-4?

1. Las imágenes en Bard

Hasta hace unos meses, la interacción con los chatbots de Google y OpenAI estaba limitada al texto.

En una era en la que internet privilegia lo visual, esto en apariencia no encajaba. Pero OpenAI rompió la barrera al presentar ChatGPT-4 en marzo con la integración de imágenes a su chatbot.

Bard ha igualado esa función en su nueva versión, algo con que acelera el ritmo de la competencia.

La función más básica es la de recibir instrucciones basadas en una imagen. Por ejemplo, puedes preguntarle dónde está ubicada esa obra de arte que alguien compartió en Instagram sin mencionar el origen.

Por otro lado está la oferta de respuestas en imágenes. Con ello, por ejemplo, podrías pedirle que te presente fotos de los cuadros más visitados en el Museo de Louvre en París y obtendrás la respuesta con texto y fotos en segundos.

Pero lo innovador de la IA va más allá: “No es solamente buscar una foto, es leer qué hay en la foto y en base a eso poder ejecutar una cierta acción”, explica Carreón.

“Si tengo en la mesa huevos, tomate, cebolla y le pregunto ‘¿qué puedo hacer?’, me puede sugerir unos huevos a la mexicana y mostrar la receta con esos ingredientes. Entonces ya reconoce lo que hay en la foto y va más allá de buscar imágenes similares. Es entender qué hay en ellas“.

Esta capacidad se llama “función multimodal”: que en lugar de dar instrucciones al chatbot solo en texto, este sea capaz de entender también imágenes.

“Ya sea que quieras más información sobre una imagen o necesites inspiración para el texto de la imagen, como una nota de agradecimiento para un regalo, ahora puedes cargar imágenes con prompts y Bard analizará la foto para ayudarte. Esta función está disponible en inglés y pronto se expandirá a nuevos idiomas”, explicaron los responsables de Bard este jueves.

Otra función anunciada en mayo, pero no disponible aún, es la generación de imágenes mediante IA de Adobe. Cuando sea lanzada, podrías pedir que cree la imagen con la combinación de elementos que le indiques.

¿Una foto de tu mascota con un gorrito de cumpleaños? Es algo que podrías pedirle.

Google dice que en este aspecto se encuentran en fase de experimentación todavía. “Queremos implementarla de manera gradual y responsable”, señaló la fuente consultada.

Sería un gran avance sobre ChatGPT-4, que no ha revelado planes para una función similar.

2. Integración a otros servicios

Contar con la información que ofrecen los chatbots de IA es un primer paso, pero ¿qué sigue?

En la nueva versión de Bard, Google ahora ofrece una “salida” directa de esa información a su nube de servicios.

Puedes llevar directamente el contenido a tu correo de Gmail si le pides que escriba una petición de vacaciones para tu jefe. O al servicio de Docs si le pediste que compusiera una canción para tu papá.

El chatbot de OpenAI solo ofrece un botón para copiar el contenido en el portapapeles.

“A fin de cuentas está el mundo Google peleando con el mundo Microsoft con ChatGPT-4. Ya lo ha anunciado también como el copiloto en el email, en Office, para los programadores en GitHub, va a ser tu copiloto inclusive en Windows”, advierte Carreón.

“Entonces en ciertas funciones de Windows vas a poder recurrir a un asistente de inteligencia artificial para hacer ciertas tareas dentro del sistema operativo”, añade.

Lo que en realidad se espera de la industria de IA no solo es crear chatbots, sino adaptar esa enorme capacidad de procesamiento de información y aprendizaje a otras aplicaciones de uso cotidiano o especializado.

“Con una aplicación de reservas en restaurantes, al integrar inteligencia ya puedes decirle en el chat que te recomiende un lugar que sea vegano, que esté abierto en la noche hasta las 00:00. Te da la lista y le dices dónde quieres reservar”, apunta Carreón.

3. Muestra de fuentes de información

Tanto Google como algunos expertos han destacado las capacidades mejoradas de razonamiento matemático o la codificación en más de 20 lenguajes de programación que ofrece la nueva versión de Bard.

Pero esto solo es percibido por los profesionales en esas áreas.

Sin embargo, una función adicional de Bard que ha sido destacada para el uso del usuario regular es la del enlistamiento de fuentes que ahora ya hace el chatbot de Google.

La IA ha despertado preocupación por las “alucinaciones” que llegan a presentar estos chatbots. Se llama así a la información errónea, inexacta o con deficiencias que producen a partir de sus enormes bancos de datos y su capacidad propia de producirla con base en aprendizaje.

Bard ahora despliega las múltiples fuentes de las cuales extrajo información, algo que ChatGPT no hace. Esto ayuda a crear confianza en los resultados, que pueden ser verificables.

Para Carreón, esto es valioso, pero advierte que hay que tener cautelay tener unjuicio crítico sobre lo que el chatbot presenta.

“La IA accede a información de su cúmulo de datos. Pero también es cierto que genera información, porque como el modelo aprende. Va a haber cierta información que no proviene de un lugar en particular”, explica.

“Si para un problema ya aprendió que hay una buena solución, no necesariamente te va a dar links. Pero como todavía en estos programas hay cierto error, es muy importante que todas las personas que utilizan la IA verifiquen el resultado final, porque a veces tiene errores”.

Para el experto de Hexabit, los usuarios deberían tener claro que la IA no es un mero buscador de información.

El objetivo de los desarrolladores ha sido crear una herramienta con capacidad de imitar el aprendizaje y razonamiento humanos.

“Como dice Bill Gates, es probable que la búsqueda como la conocemos hoy en día desaparezca. Y eso tiene implicaciones gigantes, no solo en Google, sino en todos los publicadores de contenidos que utilizan a Google como su principal plataforma de tráfico”, expone.

“Creo que muchas personas no se dan cuenta todavía de que esto va a cambiar todo, pero de una manera brutal. Y ya está pasando, ya hay muchas cosas que están cambiando”.

Y las dudas.

Así que en BBC Mundo te preguntamos hace unos días qué querías saber sobre inteligencia artificial (IA), recopilamos tus dudas y las consultamos con una experta que lleva más de 30 años trabajando en el campo de la IA.

Se trata de Amparo Alonso Betanzos, catedrática de Ciencias de la computación e Inteligencia Artificial en la Universidade da Coruña (España) y adjunta al rector para temas de IA. También fue presidenta de la Asociación Española de Inteligencia Artificial (AEPIA).

Esto es lo que nos contó.

¿Cómo funciona y cómo es la inteligencia artificial?

Es complicado decirlo porque tiene muchas subáreas, pero hay, básicamente, dos formas de poder enfocar la inteligencia artificial. Una es la simbólica, la vieja IA, donde los conocimientos los adquirimos de los expertos en el campo, es mucho más transparente pero no es escalable.

La otra, la IA que tenemos hoy en día, está basada en datos. Para poder derivar el conocimiento lo que se hace es alimentar el sistema con datos de un campo determinado, el sistema aprende de esos datos y extrae los patrones. Es capaz de generalizar, de predecir, etc. en muchas áreas, desde el lenguaje natural, la visión artificial o el aprendizaje automático.

Hay modelos donde el proceso se hace por el razonamiento basado en el aprendizaje profundo con redes neuronales con muchas capas que acaban aprendiendo esos datos. Pero hay otros modelos como el razonamiento por refuerzo u otros tipos que pueden ser usados para aprender y derivar conocimiento a la IA.

La IA se “alimenta” de datos. ¿De dónde vienen esas bases de datos?

Depende mucho del sistema que tengas. Si es un sistema experto para patrones médicos, se extraen de las grandes bases de datos clínicas que hay referenciadas por cierto tipo de enfermedades o cierto tipo de pacientes. Si son datos de tráfico, se usarán las cámaras o los sensores de tráfico disponibles.

Hoy es tan inmenso el proceso de digitalización en el que estamos que hay sensores que pueden derivar datos de prácticamente cualquier proceso natural o industrial en el que podamos pensar. Prácticamente todas las experiencias en las que uno puede pensar son digitales: tus viajes, tus historias clínicas, tus preferencias…

Por ejemplo, cuando te sientas delante del televisor y te recomienda qué ver es en función de lo que hayas hecho tú antes en esa plataforma. En ocasiones, todo esto es el alimento de los algoritmos de IA.

¿Cómo es la IA? Hay muchos que se imaginan una gran computadora o que puede llegar a ser una máquina al estilo T100 de Terminator.

No. No es así… A no ser que tengas tus programas de IA incluidos en algún robot con apariencia antropomórfica. Puede ser como la aspiradora autómata que va por toda la casa o tener forma humanoide, pero también es, simplemente, que enciendas el ordenador y tengas un software que te escucha, o un programa en el teléfono móvil que detecta tu huella dactilar.

Es imposible decir un número, cuántas hay. Hay muchos sistemas y sirven para cosas muy distintas, desde el televisor que te recomienda qué ver hasta una app para predecir si tus viñedos tendrán alguna enfermedad. Es algo muy transversal. Está prácticamente en cualquier área en la que puedas pensar.

¿Y cuál es el impacto de la IA en nuestra vida cotidiana, en los empleos…?

Muchas veces estamos usando inteligencia artificial y ni siquiera somos conscientes de ello.

En el futuro tenderemos a tener más IA porque se está implantando en cada vez más áreas.

Sobre el empleo, ya antes de la pandemia vimos cómo cambiaba el panorama. Hay muchos más empleos afectados por la automatización, no solo por la IA. Lo vemos en los supermercados, con cada vez más máquinas en vez de cajeros, por ejemplo.

Cambiará las formas de trabajar sobre todo en tareas automatizadas y habrá que convivir con que parte de nuestras tareas rutinarias las hagan máquinas. Te pongo de ejemplo los médicos, que trabajaban con apenas instrumental hace 50 años y hoy tienen a su disposición muchas más máquinas.

Está claro que afectará a los empleos y a la economía, y es algo de lo que se deben ocupar los gobiernos. Debemos ser conscientes porque, si no, puede crear grandes desniveles. Y sí, se destruirán unos empleos, pero se crearán otros.

Últimamente leemos mucho, o así lo percibo yo, que esto en general es bastante catastrófico. Se está creando un clima un poco de pánico que creo que habría que manejar con cuidado. Muchas veces nos enfocamos solo en el lado más trágico, pero la IA es una herramienta que tiene muchas cosas buenas si se maneja de forma adecuada.

Por ejemplo, en los últimos años hemos asistido a su capacidad para una medicina mucho más preventiva. Nos puede ayudar en el aprendizaje, podemos ser mucho más selectivos con nuestros alumnos y adaptar su enseñanza, ser capaces de predecir enfermedades del ganado, luchar contra el cambio climático, hacer cosas más sostenibles o administrar mejor el stock de tu tienda.

Hay muchos aspectos positivos que debemos aprender a aprovechar y protegernos de los que nos puede perjudicar.

¿Qué peligros puede haber con la IA?

Los peligros, por ejemplo, son que el sistema se esté comportando de forma inadecuada y la persona no lo detecte, digamos que su supervisión no sea todo lo estricta que podría ser. Pero eso es un fallo humano del que no estamos libres ni con IA.

También es una profesión aún muy sesgada hacia el género masculino y es importante que tomemos conciencia de que parte del futuro se va a diseñar con tecnología. Cómo caminamos hacia allí, cómo queremos que sea el futuro es importante, porque el diseño de estas herramientas requiere que nos demos cuenta de los sesgos y necesita de la participación de todos.

Pero creo que está ayudando a las personas empoderándolas en la toma de decisiones. Imagina que eres médico y tienes un montón de síntomas y dudas. Preguntas a un colega, en este caso, una IA, y te estrecha la posibilidad de decidir. Te ayuda, pero la decisión final la tomas tú. Igual que al algoritmo en una plataforma te puede decir qué ver, pero tú decides finalmente, no dejas que decida la máquina por ti.

Es cierto que la IA es algo en lo que estamos avanzando mucho y que es importante regular.

¿Se puede regular o es como poner puertas al campo? Ya hemos visto qué pasa con internet y la ‘deep web‘, por ejemplo.

La Unión Europea se ha preocupado por esto desde hace mucho tiempo. Vamos lentos, pero hay una propuesta.

Se empezó a hablar de este tema en 2018 cuando se crea el grupo de expertos de alto nivel de inteligencia artificial que produjo estas líneas directrices para una inteligencia artificial y confiable. Allí ya se hablaba de una supervisión humana de la IA y se miran aspectos como la sostenibilidad, la ausencia de sesgos o la seguridad.

Por ejemplo, la supervisión humana es uno de los puntos básicos que se contemplan en la normativa europea, es decir, que la aplicación de cualquier sistema de inteligencia artificial siempre va a tener supervisor humano en absolutamente todo el proceso de iniciación de la operación, en la recopilación de los datos, en los sectores detrás de su aplicación.

En la UE fuimos pioneros y ahora vemos que hay una gran influencia de compañías, la mayoría de fuera de la UE, como en Estados Unidos, que insisten en la necesidad de esta regulación.

Es algo que debe hacerse a nivel mundial, en ello estamos. Lo importante es dar el primer paso.

¿Se puede regular de todo? La respuesta es compleja porque la IA es compleja y es evidente que la seguridad cero no existe ni aquí ni en nada. Por ejemplo, regulamos y hacemos leyes de tráfico y eso no impide que haya accidentes.

Siempre sería deseable una regulación a nivel mundial, pero es difícil hacerlo. Solo tienes que ver el protocolo de Kioto… No todos los países lo firman y no tienes forma de obligar a hacerlo. Aparte de la Unión Europea, convencer de que la regulación es necesaria a los otros grandes centros del mundo en IA, como China y Estados Unidos, no es sencillo.

Creo que fuera del ruido mediático deberíamos todos preocuparnos porque sí es importante regular esta tecnología y hay que arbitrar una monitorización constante sobre los sistemas inteligentes.

Últimamente hemos visto titulares y expertos que dicen que la IA puede llevar va a la extinción de la humanidad… ¿Es esto así?

Es difícil decir hasta dónde va a llegar a la inteligencia artificial, pero las máquinas siempre tienen que tener un modo de interrumpirlas, para apagarlas.

Las estamos diseñando personas… Igual que son personas las que trabajan con la energía nuclear. Así que creo que es importante detectar si hay un problema y poner normas de seguridad y de aplicación.

Pero como yo lo veo es que pasa con la IA como pasaba con los coches cuando aparecieron. Al principio se pensaba que iban a ser peligrosísimos, que podrían matar a la gente y que las velocidades que alcanzaban podrían desnaturalizar nuestras proteínas. Hoy sabemos que esto no es así y es una tecnología que tenemos bajo nuestro control, tenemos regulación al respecto, etc.

¿Puede superar a la inteligencia humana y tomar consciencia?

Casi todos los sistemas de IA superan nuestra inteligencia, lo que pasa es que en un campo determinado.

La mayoría de las IA que tenemos son de nicho estrecho: capaces de tener un nivel de inteligencia muy alto en un campo muy concreto. Por ejemplo, la máquina AlphaGo (a la que se enseñó a jugar el go, un juego de mesa) puede ganar al campeón mundial de go, pero si quieres que juegue ajedrez, debes enseñarle, no puede sola.

Pueden ser magníficos diagnosticando un tipo de cáncer, pero no son buenos como médicos generales porque el conocimiento que se necesita es más amplio.

Y sobre la consciencia… Puede, entre comillas, modelarla.

Hay robots que pueden modelar sentimientos y puede parecer que tienen una toma de consciencia real, pero ni siquiera sabemos cómo ocurren ciertos procesos de la consciencia en los seres humanos, así que es algo muy complejo y amplio.

Aunque veamos herramientas como los chats, que por ser de lenguaje parecen más transversales, en realidad lo que hacen esas máquinas es ser capaces de predecir la siguiente palabra en un texto. Es un buscador muy sofisticado, pero no es capaz de razonar profundamente porque no es consciente. Es como si tuvieras una especie de loro amaestrado muy inteligente.

En apenas dos meses llegó a tener 100 millones de usuarios activos. A la popular app TikTok le tardó nueve meses alcanzar ese hito. Y a Instagram dos años y medio, según datos de la empresa de monitoreo tecnológico Sensor Town.

“En los 20 años que llevamos siguiendo internet, no podemos recordar un incremento más veloz de una aplicación de internet para consumidores”, afirmaron analistas de UBS, quienes reportaron el récord en febrero.

La masiva popularidad de ChatGPT, desarrollado por la empresa OpenAI, con respaldo financiero de Microsoft, ha despertado todo tipo de discusiones y especulaciones sobre el impacto que ya está teniendo y que tendrá en nuestro futuro cercano la inteligencia artificial generativa.

Se trata de la rama de la IA que se dedica a generar contenido original a partir de datos existentes (usualmente sacados de internet) en respuesta a instrucciones de un usuario.

Los textos (desde ensayos, poesías y chistes hasta códigos de computación) e imágenes (diagramas, fotos, obras de arte de cualquier estilo y mucho más) producidos por IA generativas como ChatGPT, DALL-E, Bard y AlphaCode -para nombrar solo algunas de las más conocidas- son, en algunos casos, tan indistinguibles del trabajo humano, que ya han sido usados por miles de personas para reemplazar su labor habitual.

Desde estudiantes que los usan para hacerle los deberes hasta políticos que les encomiendan sus discursos -el representante demócrata Jake Auchincloss estrenó el recurso en el Congreso de EE.UU.- o fotógrafos que inventan instantáneas de cosas que no ocurrieron (e incluso ganan premios por ello, como el alemán Boris Eldagsen, quien obtuvo el primer puesto en el último Sony World Photography Award por una imagen creada por IA).

Esta misma nota podría haber sido escrita por una máquina y probablemente no te darías cuenta.

El fenómeno ha llevado a una revolución de los recursos humanos, con empresas como el gigante tecnológico IBM anunciando que dejará de contratar a personas para cubrir cerca de 8.000 puestos de trabajo que podrán ser manejados por IA.

Un informe del banco de inversión Goldman Sachs estimó a finales de marzo que la IA podría reemplazar a un cuarto de todos los empleos realizados hoy por humanos, aunque también creará más productividad y nuevos trabajos.

Si todos estos cambios te abruman, prepárate para un dato que podría resultarte aún más desconcertante.

Y es que, con todos sus impactos, lo que estamos viviendo ahora es apenas la primera etapa en el desarrollo de la IA.

Según los expertos, lo que podría venir pronto -la segunda etapa- será muchísimo más revolucionaria.

Y la tercera y última, que podría ocurrir muy poco tiempo después de aquella, es tan avanzada que alterará completamente al mundo, incluso a costa de la existencia del ser humano.

Las tres etapas

Las tecnologías de IA se clasifican por su capacidad para imitar las características humanas.

1. Inteligencia artificial estrecha (ANI)

La categoría más básica de IA es más conocida por sus siglas en inglés: ANI, por Artificial Narrow Intelligence.

Se llama así porque se enfoca estrechamente en una sola tarea, realizando un trabajo repetitivo dentro de un rango predefinido por sus creadores.

Los sistemas de ANI generalmente se entrenan utilizando un gran conjunto de datos (por ejemplo de internet) y pueden tomar decisiones o realizar acciones basadas en ese entrenamiento.

Una ANI puede igualar o superar a la inteligencia y eficiencia humana pero solo en esa área específica en la que opera.

Un ejemplo son los programas de ajedrez que usan IA. Son capaces de vencer al campeón mundial de esa disciplina, pero no pueden realizar otras tareas.

Es por eso que también se la conoce como “IA débil”.

Todos los programas y herramientas que utilizan IA hoy, incluso las más avanzadas y complejas, son formas de ANI. Y estos sistemas están en todas partes.

Los smartphones están llenos de apps que usan esta tecnología, desde los mapas con GPS que te permiten ubicarte en cualquier lugar del mundo o saber el clima, hasta los programas de música y videos que conocen tus gustos y te hacen recomendaciones.

También los asistentes virtuales como Siri y Alexa son formas de ANI. Al igual que el buscador de Google y el robot que limpia tu casa.

El mundo empresarial también utiliza mucho esta tecnología. Se usa en las computadoras internas de los autos, en la manufactura de miles de productos, en el mundo financiero e incluso en hospitales, para realizar diagnósticos.

Incluso sistemas más sofisticados como los autos sin conductor (o vehículos autónomos) y el popular ChatGPT son formas de ANI, ya que no pueden operar fuera del rango predefinido por sus programadores, por lo que no pueden tomar decisiones por su cuenta.

Tampoco tienen autoconciencia, otro rasgo de la inteligencia humana.

Sin embargo, algunos expertos creen que los sistemas que están programados para aprender automáticamente (machine learning) como ChatGPT o AutoGPT (un “agente autónomo” o “agente inteligente” que utiliza información del ChatGPT para realizar ciertas subtareas de forma autónoma) podrían pasar a la siguiente etapa de desarrollo.

2. Inteligencia artificial general (AGI)

Esta categoría –Artificial General Intelligence– se alcanza cuando una máquina adquiere capacidades cognitivas a nivel humano.

Es decir, cuando puede realizar cualquier tarea intelectual que realiza una persona.

También se la conoce como “IA fuerte”.

Es tal la creencia de que estamos al borde de alcanzar este nivel de desarrollo, que en marzo pasado más de 1.000 expertos en tecnología pidieron a las empresas de IA que dejen de entrenar, por al menos seis meses, a aquellos programas que sean más poderosos que GPT-4, la versión más reciente de ChatGPT.

“Los sistemas de IA con inteligencia que compite con la humana pueden plantear profundos riesgos para la sociedad y la humanidad“, advirtieron en una carta abierta, entre otros, el cofundador de Apple, Steve Wozniak, y el dueño de Tesla, SpaceX, Neuralink y Twitter, Elon Musk (quien fue uno de los cofundadores de Open AI antes de renunciar de la junta por desacuerdos con la conducción de la compañía).

• La carta en la que más de 1.000 expertos piden frenar la inteligencia artificial por ser una “amenaza para la humanidad”

En la carta, publicada por la organización sin fines de lucro Future of Life Institute, los expertos dijeron que si las empresas no acceden rápidamente a frenar sus proyectos “los gobiernos deberían intervenir e instituir una moratoria” para que se puedan diseñar e implementar medidas de seguridad sólidas.

Aunque esto es algo que -por el momento- no ha ocurrido, el gobierno de Estados Unidos sí convocó a los dueños de las principales empresas de IA – Alphabet, Anthropic, Microsoft, y OpenAI- para acordar “nuevas acciones para promover la innovación responsable de IA”.

“La IA es una de las tecnologías más poderosas de nuestro tiempo, pero para aprovechar las oportunidades que presenta, primero debemos mitigar sus riesgos”, declaró a través de un comunicado la Casa Blanca el pasado 4 de mayo.

El Congreso de EE.UU., por su parte, convocó este martes al CEO de OpenAI, Sam Altman, a responder preguntas sobre ChatGPT.

Durante la audiencia en el Senado, Altman dijo que es “crucial” que su industria sea regulada por el gobierno a medida que la IA se vuelve “cada vez más poderosa”.

Carlos Ignacio Gutiérrez, investigador de políticas públicas en el Future of Life Institute, explicó a BBC Mundo que uno de los grandes desafíos que presenta la IA es que “no existe un cuerpo colegiado de expertos que deciden cómo regularlo, como ocurre, por ejemplo, con el Panel Intergubernamental sobre Cambio Climático (IPCC)”.

En la carta de los expertos, estos definieron cuáles eran sus principales preocupaciones.

“¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, hacernos obsoletos y reemplazarnos?”, cuestionaron.

“¿Deberíamos arriesgarnos a perder el control de nuestra civilización?”.

Lo que nos lleva al tercer y último estadio de la IA.

3. Súper Inteligencia Artificial (ASI)

La preocupación de estos científicos informáticos tiene que ver con una teoría muy establecida que sostiene que, cuando alcancemos la AGI, poco tiempo después se arribará al último estadio en el desarollo de esta tecnología: la Artificial Superintelligence, que ocurre cuando la inteligencia sintética supera a la humana.

El filósofo de la Universidad de Oxford y experto en IA Nick Bostrom define a la súper inteligencia como “un intelecto que es mucho más inteligente que los mejores cerebros humanos en prácticamente todos los campos, incluida la creatividad científica, la sabiduría general y las habilidades sociales”.

La teoría es que cuando una máquina logre tener una inteligencia a la par con la humana, su capacidad de multiplicar esa inteligencia de forma exponencial a través de su propio aprendizaje autónomo hará que en poco tiempo nos supere ampliamente, alcanzando la ASI.

“Los humanos para ser ingenieros, enfermeros o abogados debemos estudiar por muchísimo tiempo. El tema con la AGI es que es escalable de inmediato”, señala Gutiérrez.

Esto es gracias a un proceso llamado superación personal recursiva (recursive self-improvement) que permite a una aplicación de IA “continuamente mejorarse, en un tiempo que nosotros no podríamos hacerlo”.

Si bien existe mucho debate sobre si una máquina realmente puede adquirir el tipo de inteligencia amplia que tiene un ser humano -en especial en lo que hace a la inteligencia emocional-, es una de las cosas que más preocupa a quienes creen que estamos cerca de lograr la AGI.

Recientemente, el llamado “padrino de la inteligencia artificial” Geoffrey Hinton, pionero en la investigación de redes neuronales y aprendizaje profundo que permiten a las máquinas aprender de la experiencia, igual que los humanos, alertó en una entrevista con la BBC que podríamos estar cerca de ese hito.

“En este momento (las máquinas) no son más inteligentes que nosotros, por lo que puedo ver. Pero creo que pronto podrían serlo“, dijo el hombre de 75 años, quien acaba de retirarse de Google.

• “En este momento los sistemas de IA no son más inteligentes que nosotros, pero creo que pronto lo serán” | Entrevista a Geoffrey Hinton, “padrino de la inteligencia artificial”

Extinción o inmortalidad

Existen, en reglas generales, dos campos de pensamiento con relación a la ASI: están los que creen que esta superinteligencia será beneficiosa para la humanidad y los que creen todo lo contrario.

Entre estos últimos estaba el famoso físico británico Stephen Hawking, quien creía que las máquinas súper inteligentes representaban una amenaza para nuestra existencia.

“El desarrollo de la inteligencia artificial completa podría significar el fin de la raza humana“, le dijo a la BBC en 2014, cuatro años antes de morir.

Una máquina con este nivel de inteligencia “despegaría por sí sola y se rediseñaría a un ritmo cada vez mayor”, señaló.

“Los humanos, que están limitados por una evolución biológica lenta, no podrían competir y serían superados”, predijo.

Sin embargo, en el bando opuesto creen todo lo contrario.

Uno de los mayores entusiastas de la ASI es el inventor y autor futurista estadounidense Ray Kurzweil, investigador de IA en Google y cofundador de la Universidad de la Singularidad en Sillicon Valley (la “singularidad” es otra manera de llamar a la era en la que las máquinas se tornan súper inteligentes).

Kurzweil cree que los humanos podremos utilizar la IA súper inteligente para superar nuestras barreras biológicas, mejorando nuestras vidas y nuestro mundo.

En 2015 incluso predijo que para el año 2030 los humanos lograremos alcanzar la inmortalidad gracias a nanobots (robots ínfimamente pequeños) que actuarán dentro de nuestro cuerpo, reparando y curando cualquier daño o enfermedad, incluyendo el causado por el paso del tiempo.

En su declaración ante el Congreso este martes, Sam Altman, de OpenAI, también se mostró optimista sobre el potencial de la IA, señalando que podría resolver “los mayores desafíos de la humanidad, como el cambio climático y la cura del cáncer”.

En el medio están las personas, como Hinton, que creen que la IA tiene enorme potencial para la humanidad, pero consideran que el ritmo de desarrollo actual, sin regulaciones y límites claros, es “preocupante”.

En una declaración enviada a The New York Times anunciando su salida de Google, Hinton, dijo que ahora lamentaba el trabajo que había realizado, porque temía que “malos actores” utilizaran la IA para hacer “cosas malas”.

Consultado por la BBC dio este ejemplo de un “escenario de pesadilla”:

“Imagina, por ejemplo, que algún mal actor como [el presidente ruso Vladimir] Putin decidiera dar a los robots la capacidad de crear sus propios subobjetivos”.

Las máquinas podrían eventualmente “crear subobjetivos como: ‘necesito obtener más poder‘”, lo que representaría un “riesgo existencial”, señaló.

Al mismo tiempo, el experto británico-canadiense dijo que, en el corto plazo, la IA brindará muchos más beneficios que riesgos, por lo que “no debemos dejar de desarrollarla”.

“El tema es: ahora que hemos descubierto que funciona mejor de lo que esperábamos hace unos años ¿qué hacemos para mitigar los riesgos a largo plazo de que cosas más inteligentes que nosotros tomen el control?”.

Guitérrez coincide en que la clave es crear un sistema de gobernanza de la IA antes de que se desarrolle una inteligencia que puede tomar decisiones propias.

“¿Si se crean estos entes que tienen su propia motivación, qué significa cuando nosotros ya no estamos en control de esas motivaciones?”, plantea.

El experto señala que el peligro no es solo que una AGI o ASI, ya sea por motivación propia o controlada por personas con “objetivos malos”, inicie una guerra o manipule el sistema financiero, productivo, la infraestructura energética, de transporte o cualquier otro sistema que hoy está computarizado.

Una superinteligencia podría dominarnos de una manera mucho más sutil, advierte.

“Imagínate un futuro en que un ente tenga tanta información sobre cada persona en el planeta y sus hábitos (gracias a nuestras búsquedas en internet) que nos podría controlar de una manera que no nos daríamos cuenta”, afirma.

“El peor escenario no es que haya guerras de humanos contra robots. Lo peor es que no nos demos cuenta de que estamos siendo manipulados porque estamos compartiendo el planeta con un ente que es mucho más inteligente que nosotros”.

El puertorriqueño Eduardo Cabra, ganador de 28 premios Grammy y Grammy Latinos, reveló que utilizó el programa de inteligencia artificial ChatGPT para componer un tema de su nuevo disco, Martínez, que presentó este viernes 26 de mayo y con el que se despide como cantante para centrarse en la producción.

Sentado en su estudio La Casa del Sombrero en San Juan, Cabra contó en la entrevista que compuso “debatiendo” con ChatGPT la canción Toco Madera, una de las ocho de su nuevo álbum, que incluye colaboraciones con el reguetonero boricua De La Ghetto, el dominicano Vicente García o el español Rodrigo Cuevas.

“Mientras iba debatiendo, iba saliendo la letra”, explicó el artista, de 44 años, que fue por unos diez años la mente maestra musical del grupo Calle 13 hasta su disolución en 2015 tras un concierto en Puerto Rico.

La música está en su mejor momento

Por la oportunidad de componer una canción con ChatGPT, Cabra aseguró que esta se mueve a lo que llamó “el mejor momento que estamos viviendo en la música a nivel de oferta”.

“Tienes lo digital, lo análogo, los instrumentistas… Es una mezcla de lo antiguo con lo moderno. Son recursos”, detalló el músico, quien en los pasados ocho años ha trabajado como productor en al menos 40 discos.

Sin embargo, Cabra sostuvo que la inteligencia artificial “todavía no le llega” al trabajo de producción de un músico, pues en ocasiones el tocar erróneamente un teclado o un botón puede llevar a tener un sonido único y distinto al buscado.

“Si buscas explorar algo, dejándote llevar por lo que ha ocurrido en la música, la inteligencia artificial te puede llenar tus necesidades“, afirmó.

“Pero, si buscas romper con las cosas en la historia de la música, hay un factor aleatorio que siempre va a estar ahí. Ese error te va a llevar cosas por otro lado”, añadió.

Hace falta diversidad musical

Cabra afirmó que, a nivel económico, la industria musical también está en su mejor momento, aunque reconoció que la competencia para que un artista se haga viral es mucho más difícil.

“Hace falta diversidad. Yo creo que esto es un trabajo de colaboraciones diversas. Lo que yo estoy cantando o comunicando no son temas ‘mainstream’, de la línea de lo que se está promoviendo ahora, y eso es un granito de arena dentro de lo que yo estoy tratando de hacer en la música”, reflexionó.

Además, mencionó que actualmente muchas personas han decidido dedicarse a la música como un camino para ganar buen dinero, pero olvidando su fin: hacer arte.

“La música es una expresión artística y yo sé que dentro de las artes es la que más se le saca dinero, pero ya ves que lo hacen con una sola razón que no es comunicar un sentimiento”, lamentó Cabra.

Su nuevo disco, Martínez, cuenta también entre los invitados con la colombiana Elsa y Elmar, la dominicana Letón Pé, la estadounidense de padre mexicano y madre dominicana Ambar Lucid, el puertorriqueño Seba Otero y el grupo boricua Yuba-Iré.

Cantar fue “un experimento”

El disco es una “coherencia” musical con su anterior álbum, Cabra (2021), y supone el inicio de una nueva etapa en la que el artista se retira como cantante.

“Eso de cantar fue un experimento. Mi enfoque ha sido producción. Y yo creo que ya hice un ‘check’ (marca) de lo que necesitaba hacer o quería para mí. Es suficiente”, sostuvo.

“Además, uno está como en veinte cosas todo el tiempo, con producciones que llegan acá. Esta etapa de cantar toma mucho tiempo de tu vida. Es una cosa increíble”, admitió el músico, quien confesó además que cantando se escucha “rarísimo” porque su voz es “rarísima”.

Raro también fue su propuesta de estrenar casi a diario durante las pasadas dos semanas los sencillos de su nuevo disco, y cuyo octavo y último tema se publicaron junto al álbum este viernes 26 de mayo.

View this post on Instagram

A post shared by Cabra (@metiendocabras)

Esta decisión de sacar “rápido” los temas la tomó, según dijo, “para bajarle a esa carga emocional” que se suele poner a los lanzamientos.

La tecnología va en aumento. Cada vez más nos encontramos en un plano virtual donde el conocimiento y la hiper-reproducción del algoritmo moldean nuestro día a día.

Frente a la popularización de la inteligencia artificial, la humanidad se encuentra ante una avanzada de conocimiento que para muchos coloca al mundo en el futuro, mientras que para otros supone la llegada de un desconocido arriesgado.

ChatGPT fue lanzado en 2022 y desde entonces se ha propuesto como un modelo de lenguaje mediante el cual los usuarios pueden entablar conversaciones con un “robot” que responde a las preguntas o enunciados de las personas, gracias a la información conglomerada en Internet.

Luego de varios meses de operatividad de ChatGPT, la oferta de aplicaciones conversacionales a través de inteligencia artificial se amplía de la mano de Google y su servicio Bard, desarrollado por la plataforma LaMDA. Este nuevo proyecto que se presenta como un robot conversacional fue habilitado el pasado 10 de mayo.

Hasta ahora, Bard ha sido liberado para uso en 180 países y su llegada augura una competencia frente a la aplicación ChatGPT. Ambos servicios tienen mucho en común: la estructura visual se presenta como una sala virtual de conversaciones, tienen una barra de opciones en la parte izquierda, y los permiten la regeneración de respuestas en dado caso los usuarios no se sientan conformes con el contenido desplegado.

No obstante, hay varias diferencias que usuarios e investigadores han notado en los días más recientes luego del lanzamiento de Bard. Estas son algunas de las características que definen la nueva aplicación de Google que desde ya puede utilizarse en Guatemala:

1- Búsquedas dirigidas a Google

Si los usuarios quieren más información sobre algún tópico, la plataforma permite una extensión informativa al presentar enlaces y rutas para ampliar nuevos datos a través de un listado de búsquedas que proporcionará el servicio. Esto aparece en la sección “Suggest”, justo después de cada consulta.

2- Explicación de códigos

Una de las novedades de la plataforma tiene que ver con la explicación de códigos, lo cual se presenta como una manera fácil de aprender sobre programación. Para esto, las personas pueden pegar códigos y Bard generará una explicación detallada, así como también puede responder preguntas sobre la creación y funcionamiento de los mismos.

3- Interacción por audios

El servicio puede recibir preguntas o información a través de audios que las personas emitan por voz. Además, se puede dictar textos largos y hacer preguntas en esta misma forma.

4- Crear textos en varios formatos

PDF, Word, HTML son algunos de los formatos en los cuales Bard puede generar textos.

5- Generar borradores de las respuestas

Si una respuesta no es como se espera, Bard puede comparar distintos borradores de las respuestas para que los usuarios elijan las que más gustan.

6- Resumir páginas web

Si se tiene el deseo de conocer de forma sintetizada lo que dice alguna página en Internet, Bard faculta a los usuarios para que puedan integrar la información y estos podrán resumirla. Puede lograrse pegando la dirección URL del sitio web y el servicio generará un texto de cualquier extensión y en cualquier formato de texto.

7- Planificar viajes

Una de las particularidades del sitio web tiene que ver con la opción que brinda para planificar viajes. Además permite encontrar vuelos, hoteles, y actividades referidas a los destinos que guste el usuario. Por si fuera poco, también se pueden agregar la cantidad de dinero que se desea invertir.

8- Respuestas simultáneas

El servicio puede mostrar ante las preguntas de los usuarios hasta tres versiones distintas de una misma respuesta.

Pueden ser complejos ensayos, memorandos breves o poemas. Incluso con indicaciones básicas, ChatGPT puede completar tareas escritas complejas en minutos y funcionar como una herramienta creativa para producir contenido eficiente de forma rápida.

“He tenido estudiantes que usan ChatGPT para escribir apelaciones por multas de estacionamiento”, dice Vince Miller, profesor de sociología y estudios culturales en la Universidad de Kent, en Reino Unido.

“Pero en general, la tecnología permite que las personas que no necesariamente poseen las mejores habilidades de escritura las tengan de repente“, agrega.

Entre los que reportan tales beneficios están quienes buscan empleo. Aprovechando un enorme conjunto de datos, textos y palabras, ChatGPT -desarrollado por OpenAI- puede redactar cartas de presentación convincentes o sintetizar los detalles de una carrera en un buen currículum vitae.

¿Quieres enviar un correo electrónico a un gerente de contratación? Solicítale al chatbot, luego copia y pega el texto generado por IA directamente en el mensaje.

Pero los gerentes de contratación no son ajenos a esto: ya saben que los candidatos se están apoyando en la IA, y es posible que lo hagan aún más a medida que la tecnología crezca en sofisticación.

Esto podría crear un cambio en las solicitudes de empleo tal como las conocemos, alejando a los reclutadores de los modos tradicionales de evaluar candidatos.

El lado positivo

No todos los encargados de contratar ven el uso de la IA como una señal de alerta, ni como algo preocupante.

Adam Nicoll, director de marketing de la firma de contratación y consultoría laboral Randstad, con sede en Reino Unido, dice que es poco probable que los gerentes de contratación con poco tiempo distingan entre una carta de presentación escrita por un candidato y una generada por IA.

“El lenguaje generado por ChatGPT se lee limpio, aunque usa fórmulas. En comparación con la mayoría de las cartas de presentación, no hay idiosincrasias; no hay banderas rojas, pero tampoco personalidad”, dice.

A pesar de esto, dice que no necesariamente consideraría esto una trampa en el proceso de contratación.

“Está ayudando a aquellos que no son los mejores escribiendo y editando a producir un resumen ordenado de los aspectos más destacados de su carrera. Es la versión digitalizada de pedirle a un amigo que revise tu CV”, argumenta.

Nicoll señala que, de todos modos, los reclutadores ya confían menos en los métodos tradicionales de evaluar candidatos.

“La carta de presentación está de salida desde hace años: los gerentes de contratación leen un currículum por menos de 10 segundos, y mucho menos leen una declaración personal de 200 palabras. En el mejor de los casos, la carta de presentación es un ejercicio de marcar casillas que acompaña al CV; es prácticamente obsoleto”, asegura.

En cambio, Nicoll dice que los reclutadores prefieren cada vez más ver las redes sociales y el perfil de LinkedIn de un candidato para comprender su personalidad.

Y a medida que más candidatos utilizan IA para componer sus materiales escritos, agrega que la importancia de estos elementos de postulación se vuelven aún más irrelevantes.

“Si alguien puede mejorar artificialmente el correo electrónico que envía a un gerente de contratación, entonces el email no tiene sentido”, sostiene Miller, de la Universidad de Kent.

Cambios en las evaluaciones

Los expertos afirman que los procesos estándar de contratación pueden cambiar como resultado de la nueva tecnología.

Por ejemplo, dado que la IA puede crear presentaciones previas a la entrevista, los empleadores pueden introducir evaluaciones más duras en respuesta.

“La responsabilidad (del empleador) está en probar y evaluar lo que las máquinas no pueden hacer“, opina Miller.

“Si bien la IA puede organizar los datos de una manera interesante, no es particularmente creativa: solo puede funcionar con lo que ya existe. Entonces, eso podría significar evaluaciones que exigen un pensamiento más creativo y abstracto del candidato”, añade.

Además, podría haber un mayor énfasis en examinar a los candidatos en entornos cara a cara, dice Brooke Weddle, socia de la consultora McKinsey & Company, con sede en Washington, DC.

“A diferencia de las cartas de presentación, que generalmente transmiten poca información crítica para la decisión de contratación real, los empleadores analizan detenidamente el bagaje cultural y las habilidades blandas durante el proceso de entrevista”, sostiene.

Por otro lado, algunos reclutadores ya están adoptando nuevas herramientas de inteligencia artificial en su parte del proceso de contratación laboral.

Por ejemplo, algunas grandes corporaciones están aprovechando la IA en el proceso de contratación para probar las cualidades de los buscadores de empleo a través de evaluaciones de habilidades y de personalidad, que utilizan información de comportamiento basada en datos para comparar candidatos con las vacantes y ver sus habilidades interpersonales.

Este tipo de plataformas emergentes que brindan a los reclutadores más datos sobre los candidatos también pueden cambiar el proceso de solicitud de empleo, especialmente a medida que “pasamos de las certificaciones de grado a la contratación basada en habilidades”, asegura Weddle.

Y esto puede ser solo el comienzo de grandes cambios por venir.

El magnate Elon Musk aseguró el lunes 17 de abril que su proyecto de inteligencia artificial (IA) tratará de “entender la naturaleza del universo” y buscará siempre la verdad, frente a los chatbots desarrollados por OpenAI o Google, que “están siendo entrenados para ser políticamente correctos”.

En una entrevista en la cadena Fox News, Musk comparó esta tendencia a la corrección política con decir falsedades en Twitter -red social de su propiedad-, por lo que abogó por construir una “tercera opción”, frente al dominio de Google y de OpenAI, que tiene un acuerdo de financiación con Microsoft.

El pasado viernes 14 de abril, el medio Financial Times (FT) adelantó la intención de Musk de unirse a la carrera de chatbots con inteligencia artificial y lanzar su propia empresa para competir con el Bard de Google y el ChatGPT de OpenAI.

En su entrevista en Fox, Musk reconoció que “llega tarde” a la carrera, pero que espera que su proyecto “haga más bien que mal”.

El multimillonario jefe de Twitter y Tesla expresó de nuevo su preocupación por el peligro de la inteligencia artificial (IA), al decir que tiene “el potencial de destrucción de la civilización”.

Agregó que le preocupaba que el bot ChatGPT creado por la empresa emergente OpenAI estuviera siendo enseñado a ser políticamente correcto.

BREAKING: @ElonMusk discusses creating an alternative to OpenAI, TruthGPT, because it is being trained to be politically correct and to lie to people. pic.twitter.com/HTFnve9o6d

— ALX (@alx) April 18, 2023

“Voy a poner en marcha algo que se llama TruthGPT, o una IA que busque la verdad absoluta e intente comprender la naturaleza del universo”, indicó Musk.

La IA vería a las personas como una parte interesante del universo y decidiría no “aniquilar a los humanos”, según Musk.

Musk ha creado una corporación de inteligencia artificial X.AI con sede en el estado estadounidense de Nevada, según documentos empresariales.

Hace poco fusionó Twitter con una empresa fantasma “X” recién creada y mantuvo el nombre de la marca para la plataforma, pero no para el negocio.

Musk fundó una empresa rival de OpenAI varias semanas antes de unirse a los expertos que firmaron una carta abierta en la que instaban a hacer una pausa general en el desarrollo de la tecnología de IA.

Ya sabemos para qué quería las 10.000 GPUs

Elon Musk quiere crear 'TruthGPT', una IA para "entender la naturaleza del universo"

Esta "IA definitiva" busca competir con OpenAI y Google y que "con suerte haga más bien que mal"

A pesar de su experiencia en este campo,… pic.twitter.com/kJbAWe9hJY

— El Ojo Geek (@ElOjoGeek) April 18, 2023

Los firmantes argumentaban que la pausa debería servir para reforzar la regulación y garantizar la seguridad de los sistemas de IA.

Grandes empresas tecnológicas como Google, Meta y Microsoft llevan años trabajando en sistemas de IA, antes conocidos como aprendizaje automático o big data, para ayudar en traducciones, búsquedas y publicidad dirigida.

A finales del 2022, OpenAI avivó el interés por la IA con el lanzamiento de ChatGPT, capaz de generar texto a partir de una breve pregunta.

Musk cofundó OpenAI pero dejó la compañía en 2018.

Desde entonces, Microsoft ha anunciado que está invirtiendo miles de millones de dólares en OpenAI y ha puesto su tecnología a trabajar en su servicio de búsqueda en línea Bing.

Italia se convirtió en el primer país occidental en bloquear el programa de inteligencia artificial ChatGPT.

El organismo gubernamental para la protección de datos italiano anunció que existen preocupaciones de privacidad relacionadas con el chatbot creado por la empresa estadounidense OpenAI y que cuenta con el respaldo de Microsoft. Las autoridades italianas informaron que la prohibición e investigación del asunto tienen “efecto inmediato”.

Millones de personas en todo el mundo han usado ChatGPT desde su lanzamiento en noviembre de 2022.

El programa puede responder preguntas utilizando un lenguaje similar al humano e imitar diferentes estilos de escritura.

Microsoft ha gastado miles de millones de dólares en el chatbot que desde febrero fue agregado al buscador Bing. También informó recientemente que incorporará una versión de esta tecnología en sus aplicaciones de Office, incluidas Word, Excel, PowerPoint y Outlook. Las preocupaciones sobre los riesgos potenciales de la inteligencia artificial se han extendido en los últimos meses, incluida su capacidad de eliminar puestos de trabajo y de difundir información errónea.

“Fuera de control”

Esta semana, un grupo de expertos en inteligencia artificial y ejecutivos de la industria tecnológica, incluido Elon Musk, pidieron una pausa de seis meses en el entrenamiento de los poderosos sistemas de inteligencia artificial, argumentando que se trata de una potencial amenaza para la humanidad.

La declaración, firmada por más de 1.000 personas, señala que existe una carrera “fuera de control” en el desarrollo de este tipo de tecnología.El organismo regulador italiano dijo que no solo bloquearía el chatbot de OpenAI, sino que también investigará si éste cumple con el Reglamento General de Protección de Datos.

“Conversaciones de usuarios e información de pago”

Antes de la decisión de bloquear ChatGPT, las autoridades habían señalado el 20 de marzo que la aplicación incurrió en una violación de datos relacionada con las conversaciones de los usuarios y la información de pago.

En aquel momento, el ente regulador sostuvo que no había ninguna base legal para justificar “la recopilación y el almacenamiento masivo de datos personales con el fin de ‘entrenar’ a los algoritmos en los que se basa el funcionamiento de la plataforma”. También dijo que dado que no existe una forma de verificar la edad de los usuarios y que la aplicación “expone a los menores a respuestas absolutamente inadecuadas en comparación con su grado de desarrollo y conciencia”. Bard, el chatbot de inteligencia artificial rival desarrollado por Google, actualmente está disponible solo para usuarios mayores de 18 años.

La autoridad italiana de protección de datos anunció que la empresa OpenAI tiene 20 días para decir cómo responderá a las preocupaciones del organismo, bajo riesgo de una multa de US$21,7 millones o hasta el 4% de los ingresos anuales. Dan Morgan, experto de Security Scorecard, una firma de calificaciones de seguridad cibernética, dijo que la prohibición muestra la importancia del cumplimiento normativo que deben seguir las compañías que operan en Europa. “Las empresas deben priorizar la protección de los datos personales y cumplir con las estrictas normas de protección de datos establecidas por la Unión Europea”.

“Existen serias preocupaciones”

El grupo de defensa del consumidor BEUC también pidió a las autoridades nacionales y de la Unión Europea, incluidos los organismos de control de protección de datos, que investiguen a ChatGPT y otros chatbots similares, luego de la presentación de una solicitud en EE.UU. en relación al mismo asunto.

Aunque la Unión Europea está trabajando actualmente en la primera legislación del mundo sobre inteligencia artificial, la preocupación de BEUC es que pasarán años antes de que las nuevas regulaciones entren en vigor, dejando a los consumidores en riesgo de sufrir daños a causa de una tecnología que no está suficientemente regulada.

Ursula Pachl, subdirectora general de la organización de consumidores, advirtió que la sociedad “actualmente no está lo suficientemente protegida del daño” que la inteligencia artificial puede causar.

“Existen serias preocupaciones sobre cómo ChatGPT y chatbots similares pueden engañar y manipular a las personas“, dijo Pachl.

“Estos sistemas de inteligencia artificial necesitan un mayor escrutinio público y las autoridades deben reafirmar el control sobre ellos”, agregó.

ChatGPT ya está bloqueado en varios países, incluidos China, Irán, Corea del Norte y Rusia.

OpenAI aún no ha respondido a la solicitud de comentarios de la BBC.

Esta petición llega un día después del llamamiento de que más de un millar de científicos y expertos en tecnología hicieron para que se haga una pausa en el desarrollo de los sistemas de inteligencia artificial (IA).

“El mundo necesita normas éticas más estrictas para la inteligencia artificial: este es el gran reto de nuestro tiempo. La Recomendación de la Unesco sobre la Ética de la IA establece el marco normativo apropiado”, señaló en un comunicado la directora general de la organización, Audrey Azoulay.

“Es hora de aplicar las estrategias y normativas a nivel nacional. Tenemos que predicar con el ejemplo”, urgió.

El marco, aprobado por la Asamblea General de la Unesco en noviembre de 2021, busca “garantizar la transparencia y la accesibilidad” de los algoritmos sobre los que se basan estas tecnologías.

Junto a ello, busca evitar que en el extenso mundo de internet se contravengan los derechos humanos, garantizar la igualdad de género en un mundo esencialmente concebido por hombres, proteger la democracia de los ataques a través de la red y preservar el medio ambiente.

El objetivo de la Unesco es sacar el máximo partido a la IA, que ofrece herramientas muy útiles para el desarrollo, sin que se escape del control humano.

Hasta ahora, más de cuarenta países de todas las regiones del mundo ya están colaborando con la Unesco para desarrollar controles y equilibrios de la IA a nivel nacional, basándose en la recomendación.

Sin embargo, ante el auge de herramientas de IA como ChatGPT en los últimos meses y el llamamiento de los expertos del miércoles 29 de marzo, la Organización de Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) ha urgido a que los países de todo el mundo se activen para asegurar desde el marco legal que la expansión de esta tecnología no se hace a costa de los ciudadanos.

Denuncian el ChatGPT de OpenAI y piden que sea suspendido

Una de las organizaciones que el miércoles 29 de marzo suscribió un manifiesto para pedir la suspensión por seis meses de los experimentos con inteligencia artificial (IA) muy avanzada ha denunciado en EE. UU. a la tecnológica OpenAI, desarrolladora del ChatGPT, por considerar que la tecnología que utiliza, denominada GPT-4, viola la ley de protección de los consumidores.

El Center for AI and Digital Policy (CAIDP) ha presentado una demanda contra OpenAI ante la Comisión de Comercio Federal (FTC, oficial) de Estados Unidos en la que alega que el producto GPT-4 es “sesgado, engañoso y supone un riesgo para la privacidad y la seguridad pública”.

“La FTC tiene la clara responsabilidad de investigar y prohibir las prácticas comerciales injustas y engañosas. Creemos que la FTC debe examinar de cerca OpenAI y GPT-4”, dijo el presidente de CAIDP Marc Rotenberg.

Según Rotenberg, OpenAI no está cumpliendo con las prácticas propuestas por la FTC como la relativa a la garantía por parte de las compañías de inteligencia artificial de “la solidez empírica de los datos y de los modelos” empleados, así como su transparencia.

La demanda insiste en que esta tecnología no cuenta con las suficientes salvaguardas para limitar la parcialidad y el engaño.

Rotengberg fue una de los empresarios y personalidades que firmaron una carta abierta en la que solicitaron que se suspendan durante seis meses los experimentos con inteligencia artificial muy potente (superior a GPT-4) porque consideran que “pueden plantear profundos riesgos para la sociedad y la humanidad”.

“La sociedad ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos en la sociedad. Podemos hacerlo aquí. Disfrutemos de una larga pausa veraniega de la IA y no nos apresuremos a caer sin estar preparados”, decía la carta publicada por el organismo sin ánimo de lucro Future of Life Institute.

Entre los firmantes también estaban el director ejecutivo de Tesla, Elon Musk, o el cofundador de Apple Steve Wozniak entre otros que también piden la intervención de los Gobiernos, en caso de que estas empresas no respondan a esta solicitud.

“La IA avanzada podría representar un cambio profundo en la historia de la vida en la tierra, y debería planificarse y gestionarse con el cuidado y los recursos correspondientes”, aseguraba esa misiva que criticaba, además, “que los laboratorios de IA se han enzarzado en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas”.

GPT, siglas en inglés del término transformadores preentrenados generativos, es un tipo de modelo de aprendizaje artificial que se utiliza para generar lenguaje similar al humano. El GPT-4 es mucho más avanzado que los modelos similares anteriores.

El laboratorio OpenAI define el GPT-4 como su “último hito en el esfuerzo para ampliar el aprendizaje profundo”. Este nuevo sistema acepta la recepción de textos e imágenes y genera texto.

Sin embargo, OpenAI asegura que GPT-4 sigue siendo menos capaz que las personas en muchas situaciones reales aunque “muestra un desempeño a nivel humano en varios puntos de referencia académicos y profesionales”.

Los modelos de lenguaje extenso como ChatGPT tienen un “lado oscuro”, admite la agencia de coordinación policial, que ha publicado este lunes su primer informe sobre la posible explotación de este tipo de sistemas de inteligencia artificial por parte de los delincuentes, algo que, dice, “ofrece un panorama sombrío” y un nuevo desafío para la aplicación de la ley.

El modelo actual de acceso público a ChatGPT, capaz de procesar y generar texto similar a una persona, puede responder preguntas sobre una variedad de temas, traducir texto, chatear, generar contenido nuevo y producir código funcional, pero también facilitar actividades delictivas que van desde ayudar a los delincuentes a permanecer en el anonimato hasta delitos específicos, como el terrorismo y la explotación sexual infantil.

El Laboratorio de Innovación de Europol se sumó a la creciente atención pública prestada a ChatGPT, una chatbot al que ya han salido rivales como Bard (Google) y Bing (Microsoft). Los expertos de Europol han investigado cómo los delincuentes pueden abusar de estos modelos de lenguaje extenso (LLM, en sus siglas en inglés).

Han identificado numerosas áreas de preocupación, pero destacan tres ámbitos relevantes.

La primera es su forma de facilitar las tareas de fraude, suplantación de identidad e ingeniería social, puesto que la capacidad de ChatGPT para redactar textos muy auténticos cambia las reglas del juego: el “phishing” más básico era fácil de detectar dado que usaba mensajes y correos llenos de errores gramaticales y ortográficos, pero ahora es posible hacerse pasar por una organización o individuo de manera realista y con pocos conocimientos de inglés.

“Hasta ahora, este tipo de comunicación engañosa ha sido algo que los delincuentes tenían que producir por su cuenta. En el caso de campañas producidas en masa, las víctimas de este tipo de delitos a menudo podían identificar la naturaleza no auténtica de un mensaje debido a errores ortográficos o gramaticales obvios o su contenido vago o inexacto”, señala Europol.

Con la tecnología artificial, estos “phishing” y fraude virtual se pueden crear de “manera más rápida, mucho más auténtica y a una escala significativamente mayor”, y permiten “responder a mensajes en contexto y adoptar un estilo de escritura específico”, alerta.

“Las capacidades de ChatGPT se prestan a una serie de posibles casos de abuso en el área del terrorismo, la propaganda y la desinformación. El modelo se puede usar para recopilar más información en general que pueda facilitar las actividades terroristas, como, por ejemplo, la financiación del terrorismo o el intercambio anónimo de archivos”, dice.

Además, este tipo de aplicación no solo facilita la perpetración de desinformación, incitación al odio y contenido terrorista en internet, sino que también permitiría a los usuarios “darle una credibilidad fuera de lugar, ya que ha sido generada por una máquina y, por lo tanto, posiblemente parezca más objetivo para algunos que sí fuera producido por un humano”.

Junto al fraude y la desinformación, Europol destaca la ciberdelincuencia como tercer área de preocupación, puesto que ChatGPT no se limita a generar un lenguaje similar al humano, sino que también es capaz de producir código en varios lenguajes de programación distintos, con una variedad de resultados prácticos en cuestión de minutos ingresando las indicaciones correctas en la página web de esta herramienta.

“Es posible crear herramientas básicas para una variedad de propósitos maliciosos. A pesar de que son solo básicas, esto proporciona un comienzo para el delito cibernético, ya que permite que alguien sin conocimientos técnicos explote un vector de ataque en el sistema de una víctima”, subraya la agencia en su informe.

Las medidas de seguridad que impiden que ChatGPT genere un código con posible uso malicioso solo funcionan si la herramienta entiende lo que está haciendo, pero si se le dan indicaciones que se dividen en pasos individuales, es “trivial eludir estas medidas de seguridad”.

Un usuario con conocimientos más avanzados también puede explotar las capacidades mejoradas de ChatGPT para perfeccionar aún más o incluso automatizar modus operandi sofisticados de los ciberdelincuentes.