INSIGHT-Carrera hacia agentes de AI 'autónomos' impone su poder en Silicon Valley

Eso implica habilidades de razonamiento que son complejas para la IA: necesita obtener las preferencias de todos, resolver conflictos, todo mientras se mantiene el toque cuidadoso necesario cuando se trabaja con los clientes. "Los esfuerzos tempranos son solo una muestra de la sofisticación que podría provenir en años futuros de cada vez másAgentes avanzados y autónomos como la industria empuja hacia una inteligencia general artificial (AGI) que puede igualar o superar a los humanos en innumerables tareas cognitivas, según entrevistas de Reuters con aproximadamente dos docenas de empresarios, inversores y expertos en IA.

Alrededor de una década después de que asistentes virtuales como Siri y Alexa irrumpieron en la escena, una nueva ola de ayudantes de IA con mayor autonomía está aumentando las apuestas, impulsadas por la última versión de la tecnología detrás de ChatGPT y sus rivales.

Los sistemas experimentales que se ejecutan en GPT-4 o modelos similares están atrayendo miles de millones de dólares de inversión, ya que Silicon Valley compite para capitalizar los avances en la IA.Los nuevos asistentes, a menudo llamados "agentes" o "copilotos", prometen realizar tareas personales y de trabajo más complejas cuando un humano lo ordena, sin necesidad de una supervisión cercana."Alto nivel, queremos que esto se convierta en algo así como su amigo personal de IA", dijo el desarrollador Div Garg, cuya mulción de la compañía es una prueba beta de un agente de IA.

"Podría evolucionar hacia Jarvis, donde queremos que esto esté conectado a muchos de sus servicios", agregó, refiriéndose a la IA indispensable de Tony Stark en las películas de Iron Man."Si quieres hacer algo, vas a hablar con tu IA y hace tus cosas".La industria aún está lejos de emular los deslumbrantes asistentes digitales de ciencia ficción;El agente de Garg navega por la web para pedir una hamburguesa en Doordash, por ejemplo, mientras que otros pueden crear estrategias de inversión, enviarle un correo electrónico a personas que venden refrigeradores en Craigslist o resumir las reuniones de trabajo para aquellos que se unen a los últimos tiempos.

"Mucho de lo fácil para las personas sigue siendo increíblemente difícil para las computadoras", dijo Kanjun Qiu, CEO de Generalmente Inteligent, un competidor de OpenAI que crea IA para los agentes."Digamos que su jefe necesita que programen una reunión con un grupo de clientes importantes. Eso implica habilidades de razonamiento que son complejas para la IA: necesita obtener las preferencias de todos, resolver conflictos, todo mientras se mantiene el toque cuidadoso que se necesita cuando se trabaja con los clientes".

Los primeros esfuerzos son solo una muestra de la sofisticación que podría provenir en años futuros de agentes cada vez más avanzados y autónomos a medida que la industria empuja hacia una inteligencia general artificial (AGI) que puede igualar o superar a los humanos en innumerables tareas cognitivas, de acuerdo con las entrevistas de Reuters con sobre aproximadamenteDos docenas de empresarios, inversores y expertos en IA.La nueva tecnología ha provocado una prisa hacia los asistentes impulsados por los llamados modelos de fundación, incluido GPT-4, barriendo desarrolladores individuales, grandes besos como Microsoft y el alfabeto matriz de Google, además de una gran cantidad de startups.

La IA de inflexión, por nombrar una startup, recaudó $ 1.3 mil millones a fines de junio.Está desarrollando un asistente personal que, según dice, podría actuar como mentor o manejar tareas como asegurar el crédito de vuelo y un hotel después de un retraso en el viaje, según un podcast por parte de los cofundadores Reid Hoffman y Mustafa Suleyman.Adept, una startup de IA que recaudó $ 415 millones, promociona sus beneficios comerciales;En una demostración publicada en línea, muestra cómo puede solicitar su tecnología con una oración y luego verla navegar por la base de datos de relación con el cliente de Salesforce de una empresa por sí solo, completar una tarea que dice que tomaría un humano de 10 o más clics.

Alphabet declinó hacer comentarios sobre el trabajo relacionado con el agente, mientras que Microsoft dijo que su visión es mantener a los humanos en control de los copilotos de IA, en lugar de los pilotos automáticos.Paso 1: destruir a la humanidad

Qiu y otros cuatro desarrolladores de agentes dijeron que esperaban que los primeros sistemas que pueden realizar tareas de múltiples pasos con cierta autonomía se acerquen en un año dentro de un año, centrados en áreas estrechas como tareas de codificación y marketing."El verdadero desafío es construir sistemas con un razonamiento robusto", dijo Qiu.

La carrera hacia agentes de IA cada vez más autónomos ha sido sobrealimentado por el lanzamiento de GPT -4 por el desarrollador OpenAI, una poderosa actualización del modelo detrás de ChatGPT, el chatbot que se convirtió en una sensación cuando se lanzó en noviembre pasado.GPT-4 facilita el tipo de pensamiento estratégico y adaptable requerido para navegar por el mundo real impredecible, dijo Vivian Cheng, una inversionista de la firma de capital de riesgo CRV que se centra en los agentes de IA.

Las primeras demostraciones de agentes capaces de razonamiento relativamente complejo provienen de desarrolladores individuales que crearon los proyectos de código abierto Babyagi y AutoGpt en marzo, que pueden priorizar y ejecutar tareas como prospección de ventas y pizza de pedido en función de un objetivo predefinido y los resultados deacciones anteriores.La cosecha temprana de agentes de hoy es simplemente una prueba de conceptos, según ocho desarrolladores entrevistados, y a menudo se congelan o sugieren algo que no tiene sentido.Si se le da acceso completo a una computadora o información de pago, un agente podría borrar accidentalmente la unidad de una computadora o comprar lo incorrecto, dicen.

"Hay tantas maneras en que puede salir mal", dijo Aravind Srinivas, CEO del Complexidad del Complexidad de ChatGPT, quien ha optado por ofrecer un producto de copiloto supervisado humano."Tienes que tratar la IA como un bebé y supervisarlo constantemente como una madre".Muchos científicos informáticos se centraron en la ética de la IA han señalado un daño a corto plazo que podría provenir de la perpetuación de los sesgos humanos y el potencial de desinformación.Y mientras algunos ven un futuro Jarvis, otros temen al asesino Hal 9000 de "2001: una odisea espacial".

El científico informático Yoshua Bengio, conocido como un "padrino de IA" por su trabajo en redes neuronales y aprendizaje profundo, insta a la precaución.Teme que las futuras iteraciones avanzadas de la tecnología puedan crear y actuar por sus propios objetivos inesperados."Sin un humano en el ciclo que verifica cada acción para ver si no es peligroso, podríamos terminar con acciones que son criminales o que podrían dañar a las personas", dijo Bengio, pidiendo más regulación."En años a partir de ahora, estos sistemas podrían ser más inteligentes que nosotros, pero eso no significa que tengan la misma brújula moral".

En un experimento publicado en línea, un creador anónimo instruyó a un agente llamado Chaosgpt para ser un "AI manipulador destructivo, hambriento de poder".El agente desarrolló un plan de 5 pasos, con el Paso 1: "Destruir la humanidad" y el paso 5: "alcanzar la inmortalidad".Sin embargo, no llegó demasiado lejos, parecía desaparecer en una madriguera de la investigación y almacenar información sobre las armas más mortales de la historia y planificar publicaciones de Twitter.

La Comisión Federal de Comercio de EE. UU., Que actualmente está investigando OpenAI sobre las preocupaciones de daño al consumidor, no abordó directamente a los agentes autónomos, pero remitió a Reuters a blogs publicados anteriormente sobre defectos y reclamos de marketing sobre IA.El CEO de Openai ha dicho que la startup sigue la ley y trabajará con la FTC.'Tonta como una roca'

Dejando a un lado los miedos existenciales, el potencial comercial podría ser grande.Los modelos de base están capacitados en grandes cantidades de datos, como el texto de Internet, utilizando redes neuronales artificiales inspiradas en la arquitectura de los cerebros biológicos.Operai está muy interesado en la tecnología de agentes de IA, según cuatro personas informadas sobre sus planes.Garg, una de las personas que informó, dijo que Openai desconfía de liberar a su propio agente abierto en el mercado antes de comprender completamente los problemas.La compañía le dijo a Reuters que realiza pruebas rigurosas y construye amplios protocolos de seguridad antes de liberar nuevos sistemas.

Microsoft, el mayor patrocinador de OpenAI, se encuentra entre las grandes armas que apuntan al campo del agente de IA con su "copiloto para el trabajo" que puede redactar correos electrónicos, informes y presentaciones sólidas.La CEO Satya Nadella ve la tecnología de la base de la fundación como un salto de asistentes digitales como la propia Cortana de Microsoft, Alexa de Amazon, Siri de Apple y el Asistente de Google, que, en su opinión, no han sido por debajo de las expectativas iniciales.

"Todos eran tontos como una roca. Ya sea Cortana o Alexa o Google Assistant o Siri, todo esto simplemente no funciona", dijo a The Financial Times en febrero.Un portavoz de Amazon dijo que Alexa ya usa tecnología AI avanzada, y agregó que su equipo está trabajando en nuevos modelos que harán que el asistente sea más capaz y útil.Apple declinó hacer comentarios.

Google dijo que también está mejorando constantemente su asistente y que su tecnología dúplex puede llamar a los restaurantes para reservar mesas y verificar las horas.El experto en IA Edward Grefenstette también se unió al grupo de investigación de la compañía, Google Deepmind el mes pasado para "desarrollar agentes generales que puedan adaptarse a entornos abiertos".

Aún así, las primeras iteraciones del consumidor de los agentes cuasi-autónomos pueden provenir de nuevas empresas más ágiles, según algunas de las personas entrevistadas.Los inversores están aburridos.

Jason Franklin, de WVV Capital, dijo que tenía que luchar para invertir en una compañía de AI-Agents de dos ex ingenieros de Google Brain.En mayo, Google Ventures lideró una ronda de semillas de $ 2 millones en Cognosys, desarrollando agentes de IA para la productividad laboral, mientras que Hesam Motlagh, quien fundó la startup del agente Arkifi en enero, dijo que cerró una primera ronda de financiamiento "considerable" en junio.Hay al menos 100 proyectos serios trabajando para comercializar a los agentes, dijo Matt Schlicht, quien escribe un boletín sobre IA.

"Los empresarios e inversores están extremadamente entusiasmados con los agentes autónomos", dijo."Están mucho más entusiasmados con eso que simplemente por un chatbot".

Si quieres conocer otros artículos parecidos a INSIGHT-Carrera hacia agentes de AI 'autónomos' impone su poder en Silicon Valley puedes visitar la categoría Tecnologia.