Que é unha pasarela de IA? Guía de enrutamento, control de custos e gobernanza para o tráfico de LLM e de axentes

Unha pasarela de IA é unha capa de proxy centralizada situada entre as túas aplicacións ou axentes de IA e os modelos de linguaxe de grande tamaño (LLM) e as ferramentas que estes chaman. Encamiña as solicitudes, controla os custos da IA, aplica a seguridade e observa o uso, para que non teñas que incorporar eses controis por separado en cada aplicación. Algo que axiña resultaría inviable a medida que os teus equipos conecten máis modelos e despreguen máis axentes.

Velaquí o que fai unha pasarela de IA, en que se diferencia dunha pasarela de API tradicional (e das pasarelas LLM e MCP), as súas capacidades e limitacións, e como saber se necesitas unha.

Que é unha pasarela de IA?

Unha pasarela de IA é unha capa intermedia que encamiña cada chamada da túa aplicación ou axente de IA a un modelo de linguaxe de grande tamaño (LLM).

Grazas a ela, podes acceder a moitos modelos diferentes coma se fosen un só.

Cada provedor (OpenAI, Anthropic, Google, un modelo de código aberto ou o teu propio punto de conexión autoaloxado) ten o seu propio SDK, as súas claves de API e o seu formato de solicitude. A pasarela acepta unha única solicitude estándar, tradúcea para o provedor ao que esteas chamando e devolve a resposta.

Engades, substitúes ou retiras modelos cambiando a configuración da pasarela, non o código da aplicación.

E como todas as solicitudes pasan pola pasarela de IA, podes aplicar controis de custos, seguridade e rexistro para todos os modelos nun só lugar.

Como funciona unha pasarela de IA

Cando apuntas a túa aplicación ou axente de IA ao URL base da pasarela de IA, cada solicitude segue a mesma secuencia:

• Autenticar e autorizar: A pasarela comproba a clave e o rol de quen fai a chamada.
• Aplicar políticas: Impón límites de tokens e orzamentos, e executa salvagardas como a ocultación de PII.
• Encamiñar: Escolle o modelo ou o provedor segundo o custo, a latencia ou a dispoñibilidade, e recorre a un de reserva se o primeiro non está dispoñible. Tamén traduce a solicitude ao formato do provedor de destino.
• Rexistrar: Anota o modelo, o número de tokens, a latencia e o resultado para o seguimento do gasto en IA e a depuración.

Así, unha solicitude que iría directamente a un provedor de IA pasa agora pola pasarela, que pode limitar os seus tokens, substituír o modelo por outro máis barato ou devolver unha resposta almacenada na caché antes de que chegue a un LLM.

Capacidades dunha pasarela de IA

Unha pasarela de IA encamiña o tráfico dos modelos, controla o seu custo, protéxeo e rexístrao, e determina quen pode usar que.

Ampliar

Encamiñamento e conmutación por erro

A pasarela de IA escolle que modelo de IA xestiona cada solicitude, segundo o custo, a latencia ou a capacidade.

Se o provedor escollido non está dispoñible ou alcanzou o seu límite de frecuencia, a pasarela envía automaticamente a solicitude a outro modelo.

Así, a túa aplicación segue funcionando durante unha interrupción do servizo e podes repartir a carga entre varios provedores á vez.

Límites de frecuencia e orzamentos baseados en tokens

A pasarela de IA permíteche fixar límites por equipo, proxecto ou usuario, e rexeita as solicitudes unha vez que se alcanza o límite de tokens asignado.

Así, o gasto mantense dentro do orzamento e ningún equipo nin proxecto pode esgotalo por si só.

Caché semántica

As cachés semánticas das pasarelas de IA almacenan respostas anteriores e relacionan os novos prompts polo seu significado. Cando un novo prompt se parece abondo a un que a pasarela xa respondeu, devolve a resposta gardada sen chamar ao modelo.

Nas cargas de traballo de IA con moitas solicitudes similares, isto reduce o custo e o tempo de resposta.

Salvagardas e protección de datos

A pasarela de IA inspecciona cada prompt e cada resposta que pasan por ela.

Elimina os datos persoais ou confidenciais antes de que a solicitude chegue ao provedor do modelo, reduce o risco de inxeccións de prompts e filtra o contido que non queres enviar nin recibir.

As comprobacións aplícanse a todas as solicitudes, de modo que a protección non depende de que cada aplicación de IA o faga ben.

Observabilidade

A pasarela de IA rexistra cada solicitude: que modelo se executou, cantos tokens usou, canto tempo levou e se fallou.

Ese rexistro de cada interacción coa IA permíteche atribuír o custo a un equipo, depurar un modelo lento ou que falla e ver o uso en todos os provedores.

Gobernanza e control de acceso da IA

A pasarela de IA controla o acceso á IA en toda a túa organización. Concede acceso aos modelos segundo a túa configuración de roles, autentica a todos os que fan chamadas e anota cada chamada nun rexistro de auditoría, para que poidas revisar o uso da IA.

Os límites da pasarela de IA: latencia e o que non fai

Unha pasarela de IA engade unha pequena latencia. E non avalía a calidade das respostas, que segue sendo responsabilidade túa.

Canta latencia engade unha pasarela

Unha pasarela de IA engade latencia, é dicir, o atraso entre o envío dunha solicitude e a recepción da resposta, pero é relativamente pequena para o tráfico de LLM.

Nunha proba comparativa independente do equipo de VMware Cloud Foundation de Broadcom de xuño de 2026, unha instancia optimizada de Envoy AI Gateway engadiu uns 2 ms por solicitude con ata 224 usuarios simultáneos, con encamiñamento e limitación de frecuencia pero sen inspección de contido (as salvagardas e a caché semántica poderían engadir desde decenas ata centos de milisegundos).

A pasarela de IA non controla a calidade dos prompts nin das respostas

Unha pasarela de IA goberna o tráfico, non as respostas do modelo nin a lóxica da aplicación que as rodea.

As pasarelas de IA non deciden que preguntarlle a un modelo, non lembran a túa conversa nin onde quedou unha tarefa, nin executan a lóxica paso a paso dun axente.

E non avalían a calidade das respostas. Polo tanto, non poden garantir que unha resposta sexa correcta ou segura.

De feito, implantar pasarelas de IA pode reducir a calidade nalgunhas circunstancias. Por exemplo, se a pasarela encamiña unha solicitude a un modelo máis barato para aforrar custos, ese modelo pode devolver unha resposta peor.

Así que comprobar a calidade das respostas segue sendo cousa túa.

Pasarela de IA fronte a pasarela de API

Unha pasarela de IA e unha pasarela de API funcionan de xeito semellante, pero gobernan tipos de tráfico diferentes. Unha pasarela de API xestiona chamadas xerais a API (REST ou GraphQL entre os teus clientes e os servizos de backend), nas que cada solicitude é previsible. Unha pasarela de IA xestiona chamadas a un modelo de linguaxe, que se miden en tokens e levan prompts de formato libre.

Estas son as principais diferenzas entre as pasarelas de IA e as pasarelas de API:

• Unha pasarela de API encamiña as solicitudes a un servizo de backend, mentres que unha pasarela de IA as encamiña a LLM.
• Unha pasarela de API limita cantas solicitudes fas e mide o ancho de banda, mentres que unha pasarela de IA mide os tokens. O número de solicitudes é irrelevante para o seguimento do uso dos modelos de IA, porque unha soa chamada pode consumir uns poucos tokens ou centos de miles.
• Unha pasarela de API só serve unha resposta da caché cando hai unha coincidencia exacta, mentres que unha pasarela de IA tamén pode almacenar na caché segundo o significado e devolver unha resposta gardada cando un novo prompt se parece abondo a un anterior. Os prompts raramente son idénticos, así que, sen isto, pagarías por chamadas ao modelo para responder as mesmas preguntas unha e outra vez.
• Unha pasarela de API só autentica a quen fai as chamadas e comproba as claves, mentres que unha pasarela de IA tamén inspecciona os prompts en busca de datos confidenciais e instrucións ocultas. Impide que os datos confidenciais saian da túa rede e bloquea as inxeccións de prompts.

«Pasarela LLM» e «pasarela MCP» úsanse xunto a «pasarela de IA», pero designan capas máis específicas:

• Unha pasarela LLM xestiona a propia chamada ao modelo (medición de tokens, encamiñamento e filtrado de prompts).
• Unha pasarela MCP determina a que ferramentas e fontes de datos pode acceder un axente unha vez que o modelo decide actuar, mediante o Model Context Protocol (MCP).

Na práctica, estas capas solápanse. Varias pasarelas de IA, entre elas LiteLLM, Portkey, Azure API Management e Envoy AI Gateway, xa incorporan gobernanza de MCP, polo que os termos describen distintas capas de control.

Como xestionan as pasarelas de IA os axentes de IA e o tráfico MCP

A pasarela de IA controla as accións que pode realizar un axente de IA coas ferramentas e os datos aos que accede a través do Model Context Protocol (MCP).

Os axentes de IA traballan en bucles: chaman a un modelo, usan unha ferramenta, reintroducen o resultado e volven chamar ata completar a tarefa. Para acceder a ferramentas e recursos externos, usan MCP, un protocolo estándar que permite aos servizos de IA conectarse a ferramentas de terceiros.

A pasarela de IA supervisa cada paso do proceso. Controla e supervisa todo o tráfico que inicia o axente, autoriza a que ferramentas e fontes de datos pode acceder e anota todas as chamadas a modelos e ferramentas nun rexistro de auditoría.

A medida que os axentes de IA chaman a varias ferramentas e modelos para completar tarefas, a pasarela ten máis tokens que orzamentar, máis latencia que controlar e unha superficie de seguridade maior que vixiar.

Por que importan agora as pasarelas de IA

Nunha enquisa a 8.039 directivos empresariais sénior de organizacións con máis de 500 empregados, o 83 % afirmou que ten previsto desenvolver ou despregar axentes de IA (Cisco AI Readiness Index 2025), e Gartner prevé que haxa axentes específicos para tarefas no 40 % das aplicacións empresariais a finais de 2026, fronte a menos do 5 % en 2025.

A crecente adopción da IA axéntica agrava problemas vellos e engade outros novos, algúns dos cales as pasarelas de IA axudan a conter:

• Os custos da IA superan o previsto. O 79 % dos responsables financeiros que participaron na enquisa de DoiT/Sapio de 2026 superaron o seu orzamento de IA no último ano. E o peor é que isto adoita pasar desapercibido porque moitas empresas non teñen formas fiables de facer un seguimento do seu gasto en IA.
• As empresas usan máis dun modelo de IA. O 93 % dos CIO empresariais enquisados por Dataiku e Harris Poll (2026) afirman que distintos modelos funcionan mellor para distintos casos de uso. O 81 % das empresas prevé traballar con dous ou máis provedores de modelos, e o 55 % xa cambiou de provedor de LLM polo menos unha vez.
• As interrupcións dos provedores saen caras. A monitorización independente mostra que os principais provedores de LLM son fiables: unha dispoñibilidade de arredor do 99,85-99,9 % (maio de 2026) tradúcese en aproximadamente 9-13 horas de inactividade ao ano. Pero cando se producen interrupcións, son caras: dous terzos de 1.125 responsables sénior de infraestrutura estimaron que unha hora de inactividade da IA lle custaría á súa organización máis de 100.000 dólares (Cockroach Labs 2026).
• Os prompts filtran datos e expoñen as organizacións a ataques. A inxección de prompts é o principal risco de seguridade dos LLM (OWASP, 2025), e os datos confidenciais que flúen cara ás ferramentas de IA medran rapidamente: os datos empresariais enviados a aplicacións de IA aumentaron un 93 % nun ano, e só ChatGPT provocou 410 millóns de infraccións das políticas de prevención de perda de datos (Zscaler ThreatLabz).

Necesitas unha pasarela de IA e, se é así, como escoller unha?

Unha pasarela de IA vólvese imprescindible cando a túa organización está a escalar aplicacións de produtos de IA, a despregar axentes de IA ou a permitir que distintos equipos usen varios modelos de IA en diversos departamentos.

Hai varios sinais que indican que chegou ese momento:

• As claves dos provedores, os puntos de conexión e a lóxica de reintentos están copiados ou codificados de forma fixa en varias bases de código de aplicacións.
• As facturas mensuais dos modelos dispáranse de forma imprevisible, ou o departamento financeiro non pode atribuír o gasto a un equipo ou proxecto.
• As funcións orientadas ao cliente sofren erros de límite de frecuencia ou de inactividade cada vez que un provedor ten problemas.
• As aplicacións envían a modelos externos prompts sen inspeccionar que poden conter datos persoais, código fonte ou outra información confidencial.
• Distintos equipos adoptan provedores rivais (OpenAI, Anthropic, Google ou modelos autoaloxados), cada un co seu propio código de integración.
• Estás a despregar axentes autónomos ou integracións de ferramentas MCP que realizan chamadas de varios pasos a sistemas internos.
• Os equipos de seguridade, TI ou cumprimento normativo non teñen unha visión xeral de que modelos están en execución, quen os chama nin se os resultados cumpren os requisitos regulamentarios.

Por outra banda, unha pasarela de IA non é necesaria se estás a construír un único prototipo, a executar un proxecto secundario de pouco volume ou a chamar un único punto de conexión dun modelo con requisitos de seguridade mínimos.

Aloxar por conta propia ou contratar unha pasarela de IA xestionada

Cando despregas unha pasarela de IA, podes escoller entre unha solución autoaloxada ou unha xestionada.

Coa opción autoaloxada, executas unha pasarela de código aberto como LiteLLM, Portkey ou Apache APISIX na túa propia infraestrutura, xa sexa nunha nube privada, nun clúster de Kubernetes ou nas túas propias instalacións.

As pasarelas de IA autoaloxadas son unha boa opción cando:

• A residencia de datos ou o cumprimento normativo son estritos. A pasarela, os seus rexistros e as súas claves permanecen dentro dunha infraestrutura propia.
• Necesitas unha personalización profunda. O teu equipo quere complementos, lóxica de enrutamento ou configuracións de claves e orzamentos personalizadas que van máis alá do que ofrece un servizo xestionado.
• Tes capacidade de DevOps. O teu equipo pode aplicar parches, escalar e manter en funcionamento a pasarela e os seus almacéns de estado, como PostgreSQL, Redis ou etcd.

Nas solucións xestionadas, como Cloudflare AI Gateway, Azure API Management ou Amazon Bedrock AgentCore Gateway, o provedor executa a pasarela como servizo.

As pasarelas de IA totalmente xestionadas encaixan mellor cando:

• Queres poñela en marcha rapidamente e con pouco mantemento. O provedor encárgase do escalado, dos parches e do tempo de actividade.
• A túa pila tecnolóxica está nunha soa nube. Obtés de serie a xestión nativa de identidades e accesos, o rexistro e a seguridade de AWS ou Azure.
• Queres que os teus enxeñeiros se centren no produto. O seu tempo dedícase a desenvolver funcións de IA, non a xestionar infraestrutura de proxy.

Preguntas frecuentes

Que é unha pasarela de IA xenerativa?

Unha pasarela de IA xenerativa é o mesmo que unha pasarela de IA; o nome simplemente pon o foco no tráfico cara a modelos de IA xenerativa. Algúns provedores, como AWS, usan «pasarela de IA xenerativa» para referirse a unha capa de control que goberna como as aplicacións consomen os grandes modelos de linguaxe.

Podes considerar ambos os termos equivalentes.

Que é o enrutamento de modelos de IA?

O enrutamento de modelos de IA é a forma en que unha pasarela de IA envía cada solicitude ao modelo máis axeitado segundo o custo, a latencia ou as capacidades. Permite que unha soa aplicación acceda a moitos provedores a través dun único punto de conexión, sen ningunha lóxica de enrutamento integrada na propia aplicación.

Cal é a diferenza entre unha pasarela de IA e unha pasarela MCP?

Unha pasarela de IA goberna o tráfico entre as túas aplicacións e os modelos de IA: indicacións, tokens, enrutamento e custo. Unha pasarela MCP goberna a que ferramentas e fontes de datos pode acceder o axente ou o cliente a través do Model Context Protocol.

Moitas pasarelas de IA inclúen gobernanza de MCP, polo que ambas conviven nun mesmo produto.

Cal é a mellor pasarela de IA de código aberto?

Non existe unha única pasarela de IA de código aberto que sexa a mellor. Para escoller a axeitada, compáraas segundo os provedores, os complementos e os controis que necesites.

LiteLLM é un proxy moi utilizado con ampla cobertura de provedores; Kong AI Gateway é axeitado para equipos que xa usan Kong, mentres que Apache APISIX encaixa con equipos que queren unha única pasarela de código aberto tanto para o tráfico de API como para o de IA.