Què és una passarel·la d'IA? Guia d'encaminament, control de costos i governança per al trànsit d'LLM i d'agents

Una passarel·la d'IA és una capa intermediària (proxy) centralitzada entre les vostres aplicacions o agents d'IA i els grans models de llenguatge (LLM) i les eines que invoquen. Encamina les sol·licituds, controla els costos d'IA, aplica la seguretat i supervisa l'ús, de manera que no cal integrar aquests controls per separat en cada aplicació. Cosa que aviat esdevindria inviable a mesura que els vostres equips connecten més models i despleguen més agents.

A continuació us expliquem què fa una passarel·la d'IA, en què es diferencia d'una passarel·la d'API tradicional (i de les passarel·les d'LLM i MCP), quines capacitats i limitacions té i com saber si en necessiteu una.

Què és una passarel·la d'IA?

Una passarel·la d'IA és una capa intermèdia que encamina cada crida de la vostra aplicació o agent d'IA cap a un gran model de llenguatge (LLM).

Gràcies a aquesta capa, podeu accedir a molts models diferents com si fossin un de sol.

Cada proveïdor (OpenAI, Anthropic, Google, un model de codi obert o el vostre propi punt de connexió autoallotjat) té el seu propi SDK, les seves claus d'API i el seu format de sol·licitud. La passarel·la accepta una sol·licitud estàndard, la tradueix al format del proveïdor que crideu i en retorna la resposta.

Podeu afegir, substituir o retirar models canviant la configuració de la passarel·la, no el codi de l'aplicació.

I, com que totes les sol·licituds passen per la passarel·la d'IA, podeu aplicar controls de costos, seguretat i registre a tots els models des d'un sol lloc.

Com funciona una passarel·la d'IA

Quan dirigiu la vostra aplicació o agent d'IA a l'URL base de la passarel·la d'IA, totes les sol·licituds segueixen la mateixa seqüència:

• Autenticació i autorització: la passarel·la comprova la clau i el rol de qui fa la crida.
• Aplicació de polítiques: aplica límits de tokens i pressupostos, i executa salvaguardes com ara la supressió de PII.
• Encaminament: tria el model o el proveïdor segons el cost, la latència o la disponibilitat, i commuta a un de reserva si el primer no està disponible. També tradueix la sol·licitud al format del proveïdor de destinació.
• Registre: enregistra el model, el recompte de tokens, la latència i el resultat per al seguiment de la despesa en IA i la depuració.

Així, una sol·licitud que hauria anat directament a un proveïdor d'IA ara passa per la passarel·la, que pot limitar-ne els tokens, substituir el model per un de més econòmic o retornar una resposta de la memòria cau abans que arribi a un LLM.

Capacitats d'una passarel·la d'IA

Una passarel·la d'IA encamina el trànsit dels models, en controla el cost, el protegeix i el registra, i determina qui pot utilitzar què.

Amplia

Encaminament i commutació per error

La passarel·la d'IA tria quin model d'IA gestiona cada sol·licitud en funció del cost, la latència o les capacitats.

Si el proveïdor triat no està disponible o ha arribat al límit de freqüència, la passarel·la envia automàticament la sol·licitud a un altre model.

Així, la vostra aplicació continua funcionant durant una interrupció del servei i podeu repartir la càrrega entre diversos proveïdors alhora.

Límits de freqüència i pressupostos basats en tokens

La passarel·la d'IA us permet establir límits per equip, projecte o usuari, i rebutja les sol·licituds un cop s'arriba al límit de tokens assignat.

Així, la despesa no surt del pressupost i cap equip ni projecte no el pot esgotar pel seu compte.

Memòria cau semàntica

Les memòries cau semàntiques de les passarel·les d'IA emmagatzemen respostes anteriors i relacionen els prompts nous pel seu significat. Quan un prompt nou s'assembla prou a un que la passarel·la ja ha respost, retorna la resposta desada sense cridar el model.

En càrregues de treball d'IA amb moltes sol·licituds similars, això redueix el cost i el temps de resposta.

Salvaguardes i protecció de dades

La passarel·la d'IA inspecciona cada prompt i cada resposta que hi passen.

Elimina les dades personals o sensibles abans que la sol·licitud arribi al proveïdor del model, redueix el risc d'injeccions de prompts i filtra el contingut que no voleu enviar ni rebre.

Les comprovacions s'apliquen a totes les sol·licituds, de manera que la protecció no depèn que cada aplicació d'IA ho faci bé.

Observabilitat

La passarel·la d'IA registra totes les sol·licituds: quin model s'ha executat, quants tokens ha utilitzat, quant ha trigat i si ha fallat.

Aquest registre de cada interacció amb la IA us permet atribuir costos a un equip, depurar un model lent o que falla i veure l'ús de tots els proveïdors.

Governança de la IA i control d'accés

La passarel·la d'IA controla l'accés a la IA a tota l'organització. Concedeix accés als models segons la configuració de rols, autentica tothom qui fa crides i enregistra cada crida en un registre d'auditoria, perquè pugueu revisar l'ús de la IA.

Els límits de la passarel·la d'IA: la latència i allò que no fa

Una passarel·la d'IA afegeix una mica de latència. A més, no avalua la qualitat de la sortida, que continua sent responsabilitat vostra.

Quanta latència afegeix una passarel·la

Una passarel·la d'IA afegeix latència, és a dir, el retard entre l'enviament d'una sol·licitud i la recepció de la resposta, però és relativament petita per al trànsit d'LLM.

En una prova comparativa independent de l'equip de VMware Cloud Foundation de Broadcom del juny del 2026, una instància optimitzada d'Envoy AI Gateway va afegir uns 2 ms per sol·licitud amb fins a 224 usuaris simultanis, amb encaminament i limitació de freqüència però sense inspecció de contingut (les salvaguardes i la memòria cau semàntica podrien afegir de desenes a centenars de mil·lisegons).

La passarel·la d'IA no controla la qualitat del prompt ni de la sortida

Una passarel·la d'IA regula el trànsit, no la sortida del model ni la lògica de l'aplicació que l'envolta.

Les passarel·les d'IA no decideixen què cal preguntar a un model, no recorden la vostra conversa ni on s'ha aturat una tasca, ni executen la lògica pas a pas d'un agent.

Tampoc no avaluen la qualitat de les respostes. Per tant, no poden garantir que una resposta sigui correcta o segura.

De fet, implementar passarel·les d'IA pot reduir la qualitat en algunes circumstàncies. Per exemple, si la passarel·la encamina una sol·licitud a un model més econòmic per estalviar costos, aquest model pot donar una resposta pitjor.

Per tant, comprovar la qualitat de la sortida continua sent feina vostra.

Passarel·la d'IA o passarel·la d'API

Una passarel·la d'IA i una passarel·la d'API funcionen de manera similar, però regulen tipus de trànsit diferents. Una passarel·la d'API gestiona crides d'API generals (REST o GraphQL entre els vostres clients i els serveis de backend), en què cada sol·licitud és previsible. Una passarel·la d'IA gestiona crides a un model de llenguatge, que es mesuren en tokens i porten prompts de format lliure.

Aquestes són les principals diferències entre les passarel·les d'IA i les passarel·les d'API:

• Una passarel·la d'API encamina les sol·licituds a un servei de backend, mentre que una passarel·la d'IA les encamina als LLM.
• Una passarel·la d'API limita quantes sol·licituds feu i mesura l'amplada de banda, mentre que una passarel·la d'IA mesura tokens. El nombre de sol·licituds és irrellevant per al seguiment de l'ús dels models d'IA, perquè una sola crida pot consumir uns quants tokens o centenars de milers.
• Una passarel·la d'API només serveix una resposta de la memòria cau quan hi ha una coincidència exacta, mentre que una passarel·la d'IA també pot desar a la memòria cau pel significat i retornar una resposta emmagatzemada quan un prompt nou s'assembla prou a un d'anterior. Els prompts poques vegades són idèntics, de manera que, sense aquesta funció, pagaríeu per crides al model per respondre les mateixes preguntes una vegada i una altra.
• Una passarel·la d'API només autentica qui fa les crides i comprova les claus, mentre que una passarel·la d'IA també inspecciona els prompts per detectar-hi dades sensibles i instruccions ocultes. Impedeix que les dades sensibles surtin de la vostra xarxa i bloqueja les injeccions de prompts.

Els termes «passarel·la d'LLM» i «passarel·la MCP» s'utilitzen sovint juntament amb «passarel·la d'IA», però designen capes més específiques:

• Una passarel·la d'LLM gestiona la crida al model pròpiament dita (mesura de tokens, encaminament i filtratge de prompts).
• Una passarel·la MCP determina a quines eines i fonts de dades pot accedir un agent un cop el model decideix actuar, mitjançant el Model Context Protocol (MCP).

A la pràctica, se superposen. Diverses passarel·les d'IA, com ara LiteLLM, Portkey, Azure API Management i Envoy AI Gateway, ja incorporen governança MCP, de manera que els termes descriuen capes de control diferents.

Com gestionen les passarel·les d'IA els agents d'IA i el trànsit MCP

La passarel·la d'IA controla les accions que un agent d'IA pot dur a terme amb les eines i les dades a què accedeix mitjançant el Model Context Protocol (MCP).

Els agents d'IA funcionen en bucles: criden un model, utilitzen una eina, reintrodueixen el resultat i tornen a cridar fins que la tasca s'ha completat. Per accedir a eines i recursos externs, utilitzen MCP, un protocol estàndard que permet als serveis d'IA connectar-se a eines de tercers.

La passarel·la d'IA supervisa cada pas del procés. Controla i supervisa tot el trànsit que inicia l'agent, autoritza les eines i fonts de dades a què pot accedir i enregistra totes les crides a models i eines en un registre d'auditoria.

A mesura que els agents d'IA criden diverses eines i models per completar tasques, la passarel·la ha de pressupostar més tokens, fer el seguiment de més latència i vigilar una superfície de seguretat més àmplia.

Per què les passarel·les d'IA són importants ara

En una enquesta a 8.039 alts directius d'organitzacions amb més de 500 treballadors, el 83 % va afirmar que té previst desenvolupar o desplegar agents d'IA (Cisco AI Readiness Index 2025), i Gartner preveu que hi hagi agents especialitzats en tasques concretes en el 40 % de les aplicacions empresarials a finals del 2026, enfront de menys del 5 % el 2025.

La creixent adopció de la IA agèntica agreuja problemes antics i n'afegeix de nous, alguns dels quals les passarel·les d'IA ajuden a contenir:

• Els costos d'IA es disparen. El 79 % dels responsables financers que van participar en l'enquesta de DoiT/Sapio del 2026 van superar el pressupost d'IA en l'últim any. I, encara pitjor, sovint passa desapercebut perquè moltes empreses no tenen maneres fiables de fer el seguiment de la despesa en IA.
• Les empreses utilitzen més d'un model d'IA. El 93 % dels CIO empresarials enquestats per Dataiku i Harris Poll (2026) afirmen que diferents models funcionen millor per a diferents casos d'ús. El 81 % de les empreses preveuen treballar amb dos o més proveïdors de models, i el 55 % ja han canviat de proveïdor d'LLM almenys una vegada.
• Les interrupcions dels proveïdors surten cares. El seguiment independent mostra que els principals proveïdors d'LLM són fiables: una disponibilitat d'entre el 99,85 % i el 99,9 % (maig del 2026) equival a unes 9-13 hores d'inactivitat l'any. Però, quan es produeixen interrupcions, surten cares: dos terços dels 1.125 alts responsables d'infraestructura enquestats van estimar que una hora d'inactivitat de la IA costaria a la seva organització més de 100.000 $ (Cockroach Labs 2026).
• Els prompts filtren dades i exposen les organitzacions a atacs. La injecció de prompts és el principal risc de seguretat dels LLM (OWASP, 2025), i les dades sensibles que arriben a les eines d'IA augmenten ràpidament: les dades empresarials enviades a aplicacions d'IA van créixer un 93 % en un any, i només ChatGPT va provocar 410 milions d'infraccions de prevenció de pèrdua de dades (Zscaler ThreatLabz).

Necessiteu una passarel·la d'IA i com podeu triar-ne una?

Una passarel·la d'IA esdevé imprescindible quan la vostra organització amplia l'escala de les aplicacions d'IA dels seus productes, desplega agents d'IA o permet que equips de departaments diversos utilitzin diversos models d'IA.

Diversos senyals indiquen que ha arribat el moment:

• Les claus dels proveïdors, els punts de connexió i la lògica de reintents estan copiats o codificats de manera fixa en diverses bases de codi d'aplicacions.
• Les factures mensuals dels models es disparen de manera imprevisible, o l'equip financer no pot atribuir la despesa a un equip o projecte.
• Les funcions de cara al client generen errors de límit de freqüència o d'inactivitat cada vegada que un proveïdor té problemes.
• Les aplicacions envien a models externs prompts sense inspeccionar que poden contenir dades personals, codi font o altra informació sensible.
• Diferents equips adopten proveïdors competidors (OpenAI, Anthropic, Google o models autoallotjats), cadascun amb el seu propi codi d'integració.
• Esteu desplegant agents autònoms o integracions d'eines MCP que fan crides de diversos passos a sistemes interns.
• Els equips de seguretat, TI o compliment normatiu no tenen una visió general de quins models s'executen, qui els crida ni si les sortides compleixen els requisits reglamentaris.

En canvi, una passarel·la d'IA no és necessària si creeu un únic prototip, executeu un projecte secundari de poc volum o crideu un sol punt de connexió de model amb requisits de seguretat mínims.

Autoallotjar una passarel·la d'IA o comprar-ne una de gestionada

Quan desplegueu una passarel·la d'IA, podeu triar entre una solució autoallotjada o una de gestionada.

Amb una solució autoallotjada, executeu una passarel·la de codi obert com LiteLLM, Portkey o Apache APISIX a la vostra pròpia infraestructura, ja sigui en un núvol privat, en un clúster de Kubernetes o en instal·lacions pròpies.

Les passarel·les d'IA autoallotjades són una bona opció quan:

• Teniu requisits estrictes de residència de dades o de compliment normatiu. La passarel·la, els seus registres i les seves claus es queden dins d'una infraestructura de la vostra propietat.
• Necessiteu una personalització a fons. El vostre equip vol complements, lògica d'encaminament o una configuració de claus i pressupostos personalitzats que vagin més enllà del que ofereix un servei gestionat.
• Teniu capacitat de DevOps. El vostre equip pot aplicar pedaços, escalar i mantenir en funcionament la passarel·la i els seus magatzems d'estat, com ara PostgreSQL, Redis o etcd.

En les solucions gestionades, com Cloudflare AI Gateway, Azure API Management o Amazon Bedrock AgentCore Gateway, el proveïdor executa la passarel·la com a servei.

Les passarel·les d'IA totalment gestionades són més adequades quan:

• Voleu posar-la en marxa ràpidament i amb poc manteniment. El proveïdor s'encarrega de l'escalat, els pedaços i la disponibilitat.
• Tota la vostra pila tecnològica és en un sol núvol. Obteniu de sèrie la gestió d'identitats i accessos, el registre i la seguretat natius d'AWS o Azure.
• Voleu que els vostres enginyers se centrin en el producte. Dediquen el temps a desenvolupar funcions d'IA, no a gestionar infraestructura de proxy.

Preguntes freqüents

Què és una passarel·la d'IA generativa?

Una passarel·la d'IA generativa és el mateix que una passarel·la d'IA; el nom només posa l'èmfasi en el trànsit cap a models d'IA generativa. Alguns proveïdors, com AWS, utilitzen «passarel·la d'IA generativa» per designar una capa de control que regula com les aplicacions consumeixen grans models de llenguatge.

Podeu considerar els dos termes com a sinònims.

Què és l'encaminament de models d'IA?

L'encaminament de models d'IA és la manera com una passarel·la d'IA envia cada sol·licitud al model més adequat segons el cost, la latència o les capacitats. Permet que una sola aplicació accedeixi a molts proveïdors a través d'un únic punt de connexió, sense haver d'integrar cap lògica d'encaminament a l'aplicació mateixa.

Quina diferència hi ha entre una passarel·la d'IA i una passarel·la MCP?

Una passarel·la d'IA regula el trànsit entre les vostres aplicacions i els models d'IA: prompts, tokens, encaminament i cost. Una passarel·la MCP determina a quines eines i fonts de dades pot accedir l'agent o el client mitjançant el Model Context Protocol.

Moltes passarel·les d'IA inclouen governança MCP, de manera que totes dues capes conviuen en un sol producte.

Quina és la millor passarel·la d'IA de codi obert?

No hi ha una única passarel·la d'IA de codi obert que sigui la millor. Per triar la més adequada, compareu-les segons els proveïdors, els complements i els controls que necessiteu.

LiteLLM és un proxy molt utilitzat amb una àmplia cobertura de proveïdors; Kong AI Gateway és adequat per als equips que ja utilitzen Kong, mentre que Apache APISIX encaixa amb els equips que volen una sola passarel·la de codi obert tant per al trànsit d'API com per al d'IA.