La dependencia silenciosa
Cuando las empresas de Barcelona externalizan su pensamiento a algoritmos opacos. Análisis tecnoético del ecosistema empresarial barcelonés.
Un análisis sobre cómo la inteligencia artificial generativa está reconfigurando la capacidad de decisión en el ecosistema empresarial barcelonés — y qué riesgos tecnoéticos implica esta transformación.
En noviembre de 2023, el informe de digitalización de ACCIÓ —la agencia para la competitividad empresarial de la Generalitat de Catalunya— reveló un dato significativo: el 28% de las pymes catalanas utilizaban alguna herramienta de inteligencia artificial. La cifra, extraída de una encuesta a 1.200 empresas con un margen de error de ±2,8%, marcaba un punto de inflexión. Por primera vez, la adopción de IA dejaba de ser anecdótica para convertirse en tendencia estructural en el tejido productivo catalán.
Este porcentaje se contextualiza en un ecosistema barcelonés que se ha posicionado como hub tecnológico del sur de Europa. Según el informe Barcelona Tech Ecosystem 2024, el distrito 22@ concentra más de 10.000 empresas y 150.000 trabajadores, con la inteligencia artificial como una de sus verticales clave. Barcelona Tech City, por su parte, agrupa a más de 1.300 empresas miembros y señala explícitamente que “Barcelona se ha convertido en un centro para startups de IA en el sur de Europa”.
Los números cuentan una historia de adopción acelerada. El informe global State of AI 2024 de Air Street Capital documenta que el 44% de las organizaciones a nivel mundial están experimentando con IA generativa. En Barcelona, esta tendencia se materializa a través de iniciativas como las de Mobile World Capital, que en 2023 involucró a más de 200 empresas en programas de IA.
Pero detrás de estas cifras de adopción se esconde una transformación más profunda — y menos visible. No se trata solo de que las empresas usen nuevas herramientas, sino de que están externalizando procesos cognitivos fundamentales a sistemas cuyo funcionamiento interno desconocen.
La anatomía técnica de la dependencia
Para entender esta dependencia, necesitamos distinguir entre dos tipos de sistemas de IA. Por un lado, están los sistemas tradicionales de machine learning, entrenados para tareas específicas con datos etiquetados. Por otro, los grandes modelos de lenguaje (LLMs) como GPT-4, Claude 3 o los modelos abiertos que el Barcelona Supercomputing Center ayuda a desarrollar en el marco de iniciativas europeas de soberanía digital.
Estos LLMs representan un salto cualitativo. Como documenta el paper “Enterprise Adoption of LLMs: Opportunities and Risks” (arXiv:2403.15712), basado en el análisis de 150 implementaciones empresariales, la mayoría de las organizaciones carecen de la capacidad técnica para auditar o comprender las decisiones de estos modelos. Los autores —investigadores de Stanford y MIT— identifican un patrón recurrente: las empresas adoptan LLMs por su versatilidad, pero sin desarrollar paralelamente las competencias necesarias para evaluar críticamente sus outputs.
El caso del Barcelona Supercomputing Center es ilustrativo de la complejidad técnica. En su investigación sobre “Large Language Models for Scientific Discovery” (arXiv:2401.03946), los científicos del BSC documentan cómo modelos con miles de millones de parámetros pueden generar hipótesis científicas plausibles —pero también cómo la opacidad de estos sistemas dificulta la validación de sus razonamientos. Si esto ocurre en uno de los centros de supercomputación más avanzados de Europa, ¿qué sucede en una pyme barcelonesa que implementa soluciones de IA sin equipo especializado?
La paradoja es evidente: las herramientas más potentes son también las menos comprensibles. Y Barcelona, como ecosistema, está adoptando masivamente tecnologías que muy pocos entienden realmente.
Hasta aquí lo técnico. Pero…
Los datos muestran adopción creciente. Los informes documentan eficiencias. Los casos de uso se multiplican en sectores que van desde el HealthTech del distrito 22@ hasta el FoodTech de Barcelona Tech City. La narrativa pública, amplificada en eventos como el 4YFN o el Barcelona Digital Week, celebra esta transformación como inevitable y deseable.
Pero hay algo más profundo que la optimización de procesos. Lo que está en juego no es la productividad, sino la inmunidad cognitiva colectiva de nuestro ecosistema empresarial: esa capacidad compartida de entender problemas complejos, de cuestionar supuestos, de aprender colectivamente de los errores.
El paper de arXiv:2403.15712 lo expresa claramente: “Most enterprises lack the capability to audit or understand LLM decisions”. Traducido al contexto barcelonés: la mayoría de las empresas que están adoptando IA generativa no pueden evaluar críticamente lo que estos sistemas les dicen. Delegan no solo tareas, sino juicio. Externalizan no solo procesos, sino pensamiento.
Esta externalización tiene una dimensión geopolítica que el Barcelona Supercomputing Center conoce bien. En sus esfuerzos por desarrollar capacidades de IA soberana en Europa, los investigadores del BSC enfrentan una realidad incómoda: la mayoría de los modelos avanzados son desarrollados por corporaciones estadounidenses o chinas. Cuando una empresa barcelonesa implementa soluciones basadas en estos modelos, está dependiendo no solo de tecnología extranjera, sino de infraestructuras cognitivas diseñadas en contextos culturales y regulatorios diferentes.
No herramientas, sino oráculos
No estamos hablando de herramientas que amplifican la inteligencia humana, sino de oráculos que la sustituyen. La diferencia es fundamental, y determina el tipo de dependencia que estamos creando.
Una herramienta —desde el software de contabilidad hasta las hojas de cálculo— exige comprensión del problema y dominio del instrumento. Su lógica es transparente, o al menos comprensible con formación adecuada. Un oráculo, en cambio, ofrece respuestas sin exigir comprensión. Su lógica es opaca, sus procesos internos inescrutables incluso para muchos expertos.
Este salto de herramienta a oráculo tiene consecuencias en tres niveles:
A nivel organizacional, las empresas pierden capacidad de aprendizaje institucional. Cuando los procesos de decisión no son transparentes, no hay forma de mejorar colectivamente. Los errores se repiten sin que nadie entienda sus causas profundas.
A nivel de ecosistema, Barcelona pierde soberanía cognitiva. Si las infraestructuras críticas de pensamiento empresarial son propiedad de corporaciones con sede en Silicon Valley o Shenzhen, nuestra capacidad para definir modelos de negocio adaptados a nuestro contexto cultural y económico se debilita.
A nivel regulatorio, el recién aprobado Reglamento Europeo de IA (AI Act) establece obligaciones específicas para sistemas de alto riesgo. Pero como señalan los investigadores del paper de Stanford y MIT, la mayoría de las empresas no tienen capacidad para determinar si sus implementaciones caen en esta categoría —ni para cumplir con los requisitos de transparencia que la regulación exige.
El riesgo no es hipotético. Es la realidad que enfrentan hoy cientos de empresas barcelonesas que han adoptado soluciones de IA sin haber desarrollado paralelamente las competencias necesarias para usarlas de forma crítica.
Las preguntas que nadie está haciendo
- ¿Cómo desarrolla una pyme barcelonesa —con recursos limitados— la capacidad crítica para evaluar sistemas de IA cuyos creadores reconocen que ni siquiera ellos entienden completamente?
- ¿Qué responsabilidad tienen las instituciones locales —desde Barcelona Tech City hasta las universidades— en construir infraestructuras de comprensión que acompañen la adopción de infraestructuras tecnológicas?
- ¿Cómo equilibra el ecosistema barcelonés la necesidad de competir globalmente con la necesidad de mantener autonomía cognitiva sobre lo que adopta?
- ¿Qué papel debería jugar la investigación local —como la que realiza el Barcelona Supercomputing Center en IA soberana— en reducir la dependencia de oráculos tecnológicos externos?
Una responsabilidad que nos pertenece
El desafío que enfrenta Barcelona no es técnico, sino tecnoético. No se resuelve con mejores algoritmos, sino con mejores preguntas. No con más adopción, sino con más comprensión.
El informe de ACCIÓ nos dice que el 28% de las pymes catalanas usan IA. Lo que no nos dice —porque ningún informe puede decirlo— es qué porcentaje de estas empresas entienden realmente lo que están usando. Esa pregunta no aparece en las encuestas, pero es la pregunta fundamental.
No se trata de rechazar la tecnología, sino de reclamar nuestro derecho a comprenderla. No de volver a un pasado pre-digital, sino de construir un futuro donde la inteligencia —artificial y humana— dialogue en lugar de suplantarse.
Porque lo que define a Barcelona como ecosistema innovador no son sus algoritmos, sino su capacidad colectiva para enfrentar problemas complejos con creatividad, rigor ético y sentido comunitario.
Y esa responsabilidad —la de comprender lo que adoptamos, la de cuestionar lo que delegamos, la de mantener vivo el pensamiento crítico en la era de los oráculos algorítmicos— nos pertenece.
Fuentes citadas
- ACCIÓ (Generalitat de Catalunya) — Digitalització de les PIMES a Catalunya 2023. Dato: 28% pymes catalanas usan IA. Encuesta 1.200 empresas, margen ±2,8%. accio.gencat.cat
- Barcelona Tech City — Barcelona Tech Ecosystem 2024. barcelonatechcity.com
- 22@ Barcelona — Memoria de actividad 2023. Datos: 10.000 empresas, 150.000 trabajadores. 22barcelona.com
- Mobile World Capital Barcelona — Informe anual 2023-2024. mobileworldcapital.com
- State of AI Report 2024 (Air Street Capital) — Dato: 44% organizaciones experimentando con IA generativa. stateof.ai
- Enterprise Adoption of LLMs: Opportunities and Risks — arXiv:2403.15712. Stanford/MIT.
- Large Language Models for Scientific Discovery — arXiv:2401.03946. Barcelona Supercomputing Center.
- Reglamento Europeo de IA (AI Act, 2024) — artificialintelligenceact.eu
