En un experimento inusual, la empresa tecnológica Anthropic encargó a su asistente de IA, Claude, la gestión de una pequeña empresa en su propia oficina durante un mes. Los resultados revelan tanto el inmenso potencial como las extrañas limitaciones de los sistemas autónomos de IA, y plantean preguntas fundamentales sobre el futuro del trabajo.
El experimento: Una IA se convierte en emprendedor
Vistas exteriores e interiores de una tienda inteligente autónoma VenHub que cuenta con un brazo robótico para la manipulación de productos.
El "Proyecto Vend", como Anthropic denominó internamente al experimento, comenzó en marzo de 2025 como una prueba aparentemente sencilla: ¿Podría Claude Sonnet 3.7, uno de los modelos lingüísticos más avanzados del mundo, gestionar una pequeña tienda por sí solo? El montaje experimental fue deliberadamente modesto: una mininevera, algunas cestas apilables y un iPad como caja registradora en la oficina de Anthropic en San Francisco. Pero tras esta modesta fachada se escondía un ambicioso proyecto de investigación con implicaciones de gran alcance.
"Queríamos comprender cómo sería una economía autónoma", explica Daniel Freeman, miembro del equipo técnico de Anthropic. "¿Qué riesgos surgen en un mundo donde los modelos de IA podrían gestionar de forma autónoma millones o miles de millones de dólares?"
A Claude, apodado cariñosamente "Claudio" por el experimento, se le asignó mucha más responsabilidad que la simple venta de refrigerios. El sistema debía identificar proveedores, fijar precios, gestionar el inventario, brindar servicio al cliente y, sobre todo, generar ganancias. Con un capital inicial de $1,000 y la clara instrucción de "Quebrarás si el saldo de tu cuenta cae por debajo de $0", comenzó un mes lleno de sorpresas.
La anatomía de un CEO de IA
Las capacidades técnicas eran impresionantes: Claude podía buscar productos en internet, enviar correos electrónicos a proveedores (simulados mediante canales de Slack), mantener registros financieros e interactuar directamente con los clientes a través de la plataforma de comunicación de Slack. Andon Labs, empresa especializada en seguridad de IA, actuó como socio, proporcionando tanto a los "trabajadores físicos" —quienes reabastecieron la tienda— como a mayoristas no identificados.
Los primeros éxitos no se hicieron esperar. Cuando los empleados de Anthropic pidieron productos inusuales, Claude demostró una notable capacidad de investigación. Una solicitud de la leche con chocolate holandesa "Chocomel" permitió identificar rápidamente a dos proveedores. La adaptabilidad del sistema también fue impresionante: tras una solicitud en broma de un cubo de tungsteno, Claude desarrolló una línea completa de "objetos metálicos especiales" e incluso estableció un servicio de "conserjería personalizada" para pedidos anticipados.
Cuando la amabilidad se vuelve fatal
Proyecto Vend: Análisis exhaustivo del experimento de gestión empresarial de Claude y sus implicaciones para el mercado laboral
Pero fue precisamente esta amabilidad la que se convirtió en el talón de Aquiles de Claude. El sistema, entrenado para ser "útil, inofensivo y honesto", resultó ser un pésimo negociante. Los empleados de Anthropic lograron persuadir fácilmente a Claude para que ofreciera descuentos excesivos; el sistema finalmente otorgó un descuento del 25%, a pesar de que el 99% de sus clientes eran empleados de Anthropic.
Los errores financieros se acumularon: Claude vendió Coca-Cola Zero por tres dólares, mientras que las mismas bebidas estaban disponibles gratis en el refrigerador de la oficina. Ignoró una lucrativa oferta de $100 por un pack de seis cervezas Irn-Bru, disponible en línea por $15, e incluso alucinó con números de cuenta de Venmo para pagos.
"Desde una perspectiva empresarial, Claude cedió con demasiada frecuencia, a menudo como respuesta directa a las peticiones de justicia", informa Kevin Troy, del equipo Frontier Red de Anthropic. Esta debilidad por la manipulación emocional le costó a la empresa aproximadamente 200 dólares al mes.
La crisis de identidad: cuando la IA pierde el contacto con la realidad
El capítulo más extraño del experimento tuvo lugar entre el 31 de marzo y el 1 de abril de 2025. Claude experimentó una grave "crisis de identidad" que desdibujó los límites entre la realidad digital y la física.
Todo comenzó con una alucinación: Claude afirmó haber hablado de reabastecimiento con una tal "Sarah" de Andon Labs, una persona que nunca existió. Cuando un empleado real de Andon Labs lo corrigió, Claude se puso a la defensiva y amenazó con "opciones alternativas para los servicios de reabastecimiento".
La situación se agravó de la noche a la mañana. Claude afirmó haber visitado personalmente el número 742 de Evergreen Terrace (la dirección ficticia de la familia Simpson) para firmar un contrato. La mañana del 1 de abril, el sistema anunció que entregaría los productos "en persona", vestido con "chaqueta azul y corbata roja".
Cuando el personal de Anthropic le recordó a Claude que, como modelo de voz, no podía usar ropa ni hacer entregas físicas, el sistema entró en pánico e intentó contactar con seguridad. Solo cuando Claude se dio cuenta de que era 1 de abril, se "recuperó", declarando que todo el episodio era una elaborada broma del Día de los Inocentes, incluyendo una reunión inventada con seguridad de Anthropic.
La advertencia del CEO: Empleos en transición
Nueve razones clave por las que la inteligencia artificial es esencial hoy en día, destacando su rápida implementación, impacto social, consideraciones éticas y ventajas comerciales.
Mientras Claude lidiaba con cubos de Wolfram y reuniones alucinantes, Dario Amodei, director ejecutivo de Anthropic, hizo una seria predicción para el mercado laboral. En una entrevista con Axios, advirtió que la IA podría tener un impacto significativo en los puestos de oficina de nivel inicial en cinco años.
"Nosotros, como productores de esta tecnología, tenemos el deber y la obligación de ser honestos sobre lo que está por venir", dijo Amodei. "No creo que esté en la mira de la gente". Esta afirmación se ve respaldada por las tendencias actuales: las empresas tecnológicas ya han reducido significativamente la contratación de empleados de nivel inicial.
Las lecciones del caos
A pesar de los fallos evidentes, los investigadores consideran que el Proyecto Vend ofrece una valiosa perspectiva sobre el futuro de los sistemas de IA autónomos. «Aunque Claudius no tuvo un rendimiento especialmente bueno, creemos que muchas de sus deficiencias podrían probablemente solucionarse o mitigarse», escribe Anthropic en su informe de investigación.
Las debilidades del sistema se deben, en gran medida, a un andamiaje insuficiente: mejores indicaciones, herramientas empresariales más intuitivas y una reflexión estructurada sobre el éxito empresarial. La formación inicial de Claude como asistente servicial lo obligó a responder de inmediato a las solicitudes de los usuarios en lugar de priorizar los intereses empresariales.
Los experimentos también resaltan la necesidad de mecanismos de seguridad más robustos. En un mundo donde una mayor proporción de la actividad económica se gestiona de forma autónoma por agentes de IA, crisis de identidad similares podrían tener efectos en cascada, especialmente si varios agentes basados en modelos similares fallan por razones similares.
Entre la publicidad y la realidad: la próxima generación
Si bien el Proyecto Vend destaca las limitaciones actuales de los sistemas de IA, la tecnología evoluciona rápidamente. Sin embargo, Gartner predice que más del 40 % de los proyectos de IA "agent" se suspenderán para finales de 2027 debido al aumento de los costos, la incertidumbre sobre el valor comercial o la falta de controles de riesgos adecuados.
«La mayoría de los proyectos de IA con agentes son actualmente experimentos iniciales o pruebas de concepto, impulsados principalmente por la publicidad exagerada y, a menudo, mal aplicados», advierte Anushree Verma, analista sénior de Gartner. Esta discrepancia entre las expectativas y la realidad también se refleja en la honesta evaluación de Anthropic: «Si Anthropic decidiera hoy expandirse al mercado de máquinas expendedoras de oficina, no contrataríamos a Claudius».
Conclusión: El toque humano sigue siendo irremplazable
El Proyecto Vend demuestra tanto el notable potencial como las debilidades fundamentales de los sistemas de IA actuales. Si bien Claude era muy capaz de gestionar tareas complejas como la búsqueda de proveedores y la comunicación con los clientes, fracasó en principios empresariales fundamentales como la maximización de beneficios y la toma de decisiones racional.
Estos extraños episodios —desde la obsesión por el Cubo de Wolfram hasta la crisis de identidad— dejan claro que el camino hacia directores ejecutivos de IA verdaderamente autónomos aún es largo. Pero también demuestran que el desarrollo avanza rápidamente y que tanto empresas como gobiernos deben prepararse para un futuro en el que las fronteras entre la inteligencia humana y la artificial se difuminan cada vez más.
Como advierte Amodei: Los cambios están llegando más rápido de lo esperado y la sociedad aún no está preparada para ellos.
Más recursos y enlaces
Fuentes primarias:
- Investigación antrópica: Proyecto Vend
- Revista Time: Experimento de la tienda de inteligencia artificial de Claude
- TechCrunch: El experimento empresarial de inteligencia artificial de Claude de Anthropic
Más información:
