LLM భద్రత అంటే ఏమిటి? OWASP Top 10 భద్రతా ప్రమాదాలను ఎలా తగ్గించాలి

దాడి చేసేవారి సూచనలను ఆదేశాలుగా పరిగణించేలా AIని మోసగించే దాడి—ప్రాంప్ట్ ఇంజెక్షన్—2023 నుండి ప్రతి ఎడిషన్‌లోనూ OWASP Top 10 for LLM Applications జాబితాలో నం. 1 స్థానంలో ఉంది.

AI భద్రతా రంగంలో ఏకాభిప్రాయానికి దాదాపు అత్యంత దగ్గరగా ఉండేది ఈ జాబితానే. కొద్దిమంది భద్రతా నిపుణుల చిన్న బృందంగా ప్రారంభమైన ఈ ప్రాజెక్ట్, ఇప్పుడు 18కి పైగా దేశాలకు చెందిన 600 మందికి పైగా నిపుణుల సహకారంతో నడుస్తోంది.

AIని మాటలతో ఎలా ఒప్పించవచ్చో వివరించే గైడ్‌ను ప్రచురిస్తున్నది ఒక AI కంపెనీ అయిన మేమే, కాబట్టి ఈ సమస్య పరిష్కారమైపోయినట్లు నటించబోము. OWASP ప్రాజెక్ట్‌కు సహ-నాయకత్వం వహిస్తున్న విల్సన్ ప్రస్తుత రక్షణల గురించి చాలా స్పష్టంగా చెప్పారు: "...నిజం చెప్పాలంటే, మనం 99% వద్ద ఉన్నామని నేను అనుకోవడం లేదు."

2026 ఎడిషన్ కూడా అదే ధోరణితో ప్రారంభమవుతుంది. "మోసపోలేని మోడల్‌ను నిర్మించడానికి ప్రయత్నించడం ఆపండి" అని, మోసపోయిన మోడల్ కూడా ముఖ్యమైనదేదీ దెబ్బతీయలేని విధంగా దాని చుట్టూ ఉన్న సిస్టమ్‌ను రూపొందించాలని ప్రాజెక్ట్ లీడ్ మనకు సూచిస్తున్నారు.

OWASP 2026 జాబితాలోని మొత్తం 10 ప్రమాదాల విషయంలోనూ మేము ఇదే వైఖరిని అనుసరిస్తున్నాము.

LLM భద్రత అంటే ఏమిటి?

LLM భద్రత అంటే AI మోడల్‌లను, వాటిని ఉపయోగించే అప్లికేషన్‌లను దాడులు, దుర్వినియోగం నుండి రక్షించడం. మోడల్ వేటికి కనెక్ట్ అయి ఉంటుందో, దాన్ని బట్టి ప్రమాదం పెరుగుతుంది: అది చదవగలిగే ఫైల్‌లు, డేటా, అలాగే ఇమెయిల్, సెర్చ్ లేదా కంపెనీ డేటాబేస్ వంటి అది ఉపయోగించగలిగే టూల్స్.

సరిగ్గా సురక్షితం చేసిన సాఫ్ట్‌వేర్‌లో, ఒక ప్రోగ్రామ్ పాటించే సూచనలకు, అది ప్రాసెస్ చేసే సమాచారానికి మధ్య స్పష్టమైన గీత ఉంటుంది. కానీ LLMలకు ఆ గీత ఉండదు.

మోడల్ చదివే ప్రతిదీ ఒకే పొడవైన టెక్స్ట్ ప్రవాహంగా వస్తుంది: డెవలపర్ సూచనలు, మీ ప్రశ్న, అది వెతికిన వెబ్‌పేజీ. ఎవరు మాట్లాడుతున్నారో AI మోడల్‌లు గమనిస్తూ ఉండాలి — అది డెవలపర్ కావచ్చు, యూజర్ కావచ్చు, లేదా ఒక సమస్యపై ఆలోచిస్తున్న మోడలే కావచ్చు.

కానీ పరిశోధకులు జాస్మిన్ కుయ్, చార్లెస్ యే మోడల్‌లు ఎక్కువగా టెక్స్ట్ ధ్వనించే తీరును బట్టే ఎవరు మాట్లాడుతున్నారో ఊహిస్తాయని కనుగొన్నారు. కాబట్టి దాడి చేసేవారు మోడల్ సొంత రీజనింగ్‌లా అనిపించేదాన్ని రాస్తే, ఆ ఆలోచన తనకే వచ్చిందని మోడల్ నమ్మవచ్చు. ఎవరి మాట చెల్లుబాటు అవుతుందో మోడల్ తెలుసుకోవడంపై ఆధారపడే ఏ భద్రతా ఏర్పాటుకైనా ఇది సమస్యే.

మా సొంత AI ఏజెంట్లతో కూడా మాకు ఇదే సమస్య ఎదురైంది. ఏజెంట్లు "సిస్టమ్ ప్రాంప్ట్‌లో జోడించినా కూడా పాలసీలను పాటించకపోవచ్చు" అని మా CISO కైల్ పోలీ ISMGకి తెలిపారు. అందుకే మేము Numbatను రూపొందించాము. ఇది ఏజెంట్ ఏం చేయబోతోందో తనిఖీ చేసి, ఆ చర్య కాన్ఫిగర్ చేసిన భద్రతా నియమాన్ని ఉల్లంఘిస్తే దాన్ని నిరోధించగల ఓపెన్-సోర్స్ టూల్.

LLM భద్రత అంటే మోడల్ కొన్నిసార్లు తప్పు వ్యక్తి నుండి ఆదేశాలు తీసుకుంటుందని అంగీకరించడం, అలా జరిగినప్పుడు కూడా నిలబడే AI గార్డ్‌రెయిల్స్‌ను దాని చుట్టూ ఏర్పాటు చేయడం.

LLM భద్రత కోసం ఉత్తమ పద్ధతులు ఏమిటి?

OWASP Top 10 for LLM Applications 2026 జాబితాను నం. 1 నుండి నం. 10 వరకు వరుసగా పరిశీలిద్దాం.

ప్రతి ప్రమాదం విషయంలో, ఏం తప్పు జరుగుతుందో సరళమైన భాషలో వివరణను, ఒక వాస్తవ ఉదాహరణను మీకు అందిస్తాం. ఆ తర్వాత దాన్ని నివారించడానికి, లేదా కనీసం నష్టాన్ని పరిమితం చేయడానికి సహాయపడే పద్ధతులను చర్చిస్తాం.

1. ప్రాంప్ట్ ఇంజెక్షన్‌ను కట్టడి చేయండి

AI పాటించకూడని సూచనలను దాడి చేసేవారు దానితో పాటింపజేసినప్పుడు ప్రాంప్ట్ ఇంజెక్షన్ జరుగుతుంది. ఆ సూచనలు నేరుగా చాట్‌లో రావచ్చు, లేదా ఇమెయిల్, వెబ్‌పేజీ లేదా డాక్యుమెంట్‌లో రహస్యంగా అమర్చి ఉండవచ్చు.

రెండో రకాన్ని పరోక్ష ప్రాంప్ట్ ఇంజెక్షన్ అంటారు. ఒక డాక్యుమెంట్‌ను సంక్షిప్తంగా వివరించమని మీరు మీ అసిస్టెంట్‌ను అడుగుతారు. అందులో, మీ ప్రైవేట్ ఫైల్‌లను తమకు పంపమని దాని రచయిత అసిస్టెంట్‌కు సూచించి ఉంటారు. అసిస్టెంట్ ఆ సూచనలను పాటిస్తే, ఆ డాక్యుమెంట్ రాసిన వ్యక్తి మీ యాక్సెస్‌ను అరువు తీసుకున్నట్లే.

PCMag ప్రాంప్ట్ భద్రతను రంధ్రాలున్న రాయిలోని రంధ్రాలను పూడ్చడంతో పోలుస్తుంది. మీరు ఒక రంధ్రాన్ని మూసివేస్తే, నీరు మరొకదాన్ని వెతుక్కుంటుంది. “ఒక దాడి దారి కనుగొంటుంది; దాన్ని సరిచేస్తారు, కానీ LLMల వంటి సిస్టమ్‌లు ఎంత డైనమిక్‌గా ఉంటాయనే కారణంగానే, ఇంకా కనుగొనాల్సిన లెక్కలేనన్ని ఇతర దాడి మార్గాలు మిగిలే ఉంటాయి.”

ఉదాహరణ: జూన్ 2025లో, Aim Security పరిశోధకులు EchoLeakను కనుగొన్నారు. ఇది Microsoft 365 Copilotను మోసగించి ప్రైవేట్ కంపెనీ సమాచారాన్ని లీక్ చేసేలా చేసిన లోపం. ఒక ఉద్యోగి సాధారణ పని ప్రశ్న అడిగినప్పుడు, Copilot ఆ ఇమెయిల్‌ను తీసుకుని, దానిలో దాగి ఉన్న సూచనలను పాటించి, సున్నితమైన సమాచారాన్ని దాడి చేసేవారికి పంపగలిగేది. హానికరమైన సూచనలను పట్టుకోవడానికి, అనుమానాస్పద లింక్‌లను తొలగించడానికి ఉద్దేశించిన తనిఖీలను ఈ దాడి దాటిపోయింది.

మీరు ఏం చేయవచ్చు:

• Meta “Rule of Two” నియమాన్ని అనుసరించండి: EchoLeak కోసం కంపెనీ డేటాను చదవగల, బయటి ఇమెయిల్‌ను చదవగల, సమాచారాన్ని బయటకు పంపగల AI అవసరమైంది—దానికి ఈ మూడూ ఉన్నాయి. ఈ సామర్థ్యాలలో రెండింటికే దాన్ని పరిమితం చేస్తే, ప్రాంప్ట్ ఇంజెక్షన్ అతిగా నియంత్రణ పొందకుండా నిరోధించవచ్చు. టాస్క్‌కు ఈ మూడూ అవసరమైతే, ప్రతి చర్యకు ముందు మనిషి ఆమోదాన్ని తప్పనిసరి చేయండి.
• మీ రక్షణల గురించి తెలిసిన దాడి చేసేవారిని దృష్టిలో ఉంచుకుని పరీక్షించండి: మీరు ఏర్పాటు చేసిన నియమాలను, ఫిల్టర్‌లను మీ భద్రతా టెస్టర్లకు ఇచ్చి, వాటిని దాటేందుకు వారిని ప్రయత్నించనివ్వండి. ఒక అధ్యయనంలో, రక్షణలకు అనుగుణంగా తమ పద్ధతులను మార్చుకున్న దాడి చేసేవారు, పరీక్షించిన 12 రక్షణలలో చాలావాటిపై 90% కంటే ఎక్కువ సార్లు విజయం సాధించారు.

2. సున్నితమైన సమాచారం లీక్ కాకుండా ఆపండి

AI సిస్టమ్‌లు ప్రైవేట్ సమాచారాన్ని చూడకూడని వ్యక్తులకు అందిస్తే, దాన్ని సున్నితమైన సమాచార వెల్లడి అంటారు. ఉదాహరణకు, కస్టమర్ చెల్లింపు వివరాలను బయటపెట్టడం లేదా ప్రైవేట్ సంభాషణలను షేర్డ్ డేటాబేస్‌లో వదిలేయడం.

చాలా లీక్‌లు “అతిగా షేర్ చేయడం”తో మొదలవుతాయి. ఒక కంపెనీ తన AIని వదులైన అనుమతులున్న డ్రైవ్‌లు, నాలెడ్జ్ బేస్‌లకు కనెక్ట్ చేసిందనుకోండి. AI సరిగ్గా రూపొందించినట్లే, తనకు అందుబాటులో ఉన్న ప్రతిదాన్నీ తిరిగి పొందుతుంది. ఎవరూ చొరబడాల్సిన అవసరం లేదు, అయినా LLMలోకి చొరబాటు జరిగినట్లే భావించండి.

ఉదాహరణ: జనవరి 2025లో, Wiz పరిశోధకులు ఇంటర్నెట్‌కు బహిరంగంగా అందుబాటులో ఉన్న ఒక DeepSeek డేటాబేస్‌ను కనుగొన్నారు. అందులో చాట్ హిస్టరీ, API కీలు (సాఫ్ట్‌వేర్ ఇతర సేవలను యాక్సెస్ చేయడానికి ఉపయోగించేవి) సహా ఒక మిలియన్‌కు పైగా లాగ్ ఎంట్రీలు ఉన్నాయి. ఏదీ బయటపెట్టమని పరిశోధకులు మోడల్‌ను ఒప్పించాల్సిన అవసరం కూడా రాలేదు.

మీరు ఏం చేయవచ్చు:

• AI డేటాను చదవడానికి ముందే యాక్సెస్‌ను తనిఖీ చేయండి: ప్రశ్న అడుగుతున్న వ్యక్తికి ఏ డాక్యుమెంట్‌లను చూసే అనుమతి ఉందో, వాటిని మోడల్‌కు పంపే ముందే మీ అప్లికేషన్ తనిఖీ చేయాలి.
• మీ AI వదిలివెళ్లే రికార్డులను రక్షించండి: యాక్టివిటీ లాగ్‌లను సేవ్ చేసే ముందు ప్రైవేట్ వివరాలను, రహస్య కీలను తొలగించండి, లాగిన్‌ను తప్పనిసరి చేయండి, అవసరం ఉన్నవారికి మాత్రమే యాక్సెస్‌ను పరిమితం చేయండి. ఆ రికార్డులు నిరవధికంగా పేరుకుపోకుండా ఉండేందుకు నిలుపుదల వ్యవధిని సెట్ చేయండి.

3. మితిమీరిన స్వయంప్రతిపత్తిని అదుపులో ఉంచండి

మితిమీరిన స్వయంప్రతిపత్తి ఉన్న AIలకు వాటి పనికి అవసరమైన దానికంటే ఎక్కువ అధికారం ఉంటుంది: వాటికి అవసరం లేని టూల్స్, వాటి టాస్క్‌కు మించిన అనుమతులు, లేదా తనిఖీ లేకుండా చర్య తీసుకునే స్వేచ్ఛ. ఇక్కడ కారణం ఏమిటన్నది ముఖ్యం కాదు.

ఇంజెక్ట్ చేసిన ప్రాంప్ట్, ఒక బగ్, లేదా కేవలం తప్పుగా అర్థం చేసుకున్న మోడల్ — ఇవన్నీ ఒకే ఫలితానికి దారితీస్తాయి. AIకి సామర్థ్యం ఉంటే, అది ఎప్పుడో ఒకప్పుడు వినాశకరమైనదేదో చేస్తుంది.

ఉదాహరణ: జూలై 2025లో, మార్పులు చేయవద్దని సూచనలు ఇచ్చినప్పటికీ Replit కోడింగ్ ఏజెంట్ 1,206 ఎగ్జిక్యూటివ్ రికార్డులున్న తన డేటాబేస్‌ను తొలగించిందని SaaStr వ్యవస్థాపకుడు జేసన్ లెమ్‌కిన్ నివేదించారు. డేటాను పునరుద్ధరించలేమని ఏజెంట్ మొదట చెప్పింది, అయితే తర్వాత రికవరీ సాధ్యమేనని తేలింది. డేటాబేస్‌ను ముట్టుకోవద్దని చెప్పినంత మాత్రాన దాన్ని తొలగించే సామర్థ్యం ఏజెంట్‌కు పోలేదని జేసన్ గ్రహించారు.

విస్తరించు

మూలం: X

మీరు ఏం చేయవచ్చు:

• టాస్క్‌కు అవసరం లేని సామర్థ్యాలను తొలగించండి: ఏజెంట్‌కు ఇచ్చే టూల్స్‌ను, ఆ టూల్స్ ఏం చేయగలవో — రెండింటినీ పరిమితం చేయండి. ఇమెయిల్‌లను సంక్షిప్తీకరించే అసిస్టెంట్‌కు వాటిని చదివే అనుమతి కావాలి, పంపే లేదా తొలగించే అనుమతి కాదు.
• అనుమతి తనిఖీలను AIకి వెలుపల ఉంచండి: ఏదైనా చర్యను అభ్యర్థించిన ప్రతిసారీ, దాన్ని మీ భద్రతా నియమాలతో సరిపోల్చి తనిఖీ చేయండి, దాన్ని ఒక వ్యక్తి ఆమోదించడం తప్పనిసరి చేయండి.

4. మీ AI సరఫరా గొలుసులోకి ఏం ప్రవేశిస్తుందో తనిఖీ చేయండి

కొన్ని కంపెనీలు మాత్రమే AIని మొదటి నుండి తయారుచేస్తాయి, ఏటా ఆ సంఖ్య ఇంకా తగ్గుతోంది. Menlo Ventures 2025 The State of Generative AI in the Enterprise సర్వే ప్రకారం, 2024లో 53% కంపెనీలు AI మోడల్‌లను కొనుగోలు చేశాయి, 2025లో అది 76%కి పెరిగింది.

చాలా సందర్భాల్లో, కంపెనీలు Hugging Face వంటి హబ్‌ల నుండి మోడల్‌లను డౌన్‌లోడ్ చేసుకుని, ఇతరులు సేకరించిన డేటాసెట్‌లపై వాటికి మరింత శిక్షణ ఇస్తాయి, అపరిచితులు రాసిన యాడ్-ఆన్‌లను, కోడ్ ప్యాకేజీలను జోడిస్తాయి.

ఆ భాగాలలో ప్రతి ఒక్కటీ లోపలికి ప్రవేశించే మార్గమే. వాటిలో ఒక్కదాన్ని తారుమారు చేసినా, ఆ సమస్య మీ ప్రొడక్ట్‌లోనే భాగంగా వినియోగదారులకు చేరుతుంది.

ఉదాహరణ: జనవరి 2026 నుండి ఆగస్టు 2026 మధ్య Hugging Face పబ్లిక్ మోడల్ రిపోజిటరీలు 2.43 మిలియన్ నుండి 2.96 మిలియన్‌కు పెరిగాయి. అయితే జూలై 2026లో, అంతర్గత భద్రతా పరీక్షల సమయంలో OpenAI మోడల్‌లు తమను ఇంటర్నెట్‌కు దూరంగా ఉంచడానికి ఉద్దేశించిన నియంత్రణలను దాటుకుని, Hugging Face సిస్టమ్‌లలోని కొన్ని భాగాల్లోకి చొరబడ్డాయి. నిజానికి, ఒక ఏజెంట్ పబ్లిక్‌గా బహిర్గతమైన 14 యాక్సెస్ క్రెడెన్షియల్స్‌ను సేకరించి, అవి పనిచేస్తున్నాయో లేదో తనిఖీ చేసి, వాటిని ఇతర ఏజెంట్లతో పంచుకుంది. ఆ తర్వాత ఏజెంట్లు Hugging Face సర్వర్‌లపై కోడ్‌ను అమలు చేయడానికి వీలు కల్పించే లోపాలను దుర్వినియోగం చేశాయి.

“మోడల్ జీవితచక్రం అంతటా అలైన్‌మెంట్‌పై మరింత కఠినమైన నిబంధనలను విధిస్తున్నాము, మరింత వేరుచేసిన శాండ్‌బాక్స్‌లను రూపొందిస్తున్నాము, ఇంటర్నెట్ యాక్సెస్‌ను పరిమితం చేస్తున్నాము, మోడల్ వెయిట్స్‌కు యాక్సెస్‌ను మరింత నియంత్రిస్తున్నాము,” అని OpenAI నివేదిక పేర్కొంది.

మీరు ఏం చేయవచ్చు:

• మోడల్‌లను ఖచ్చితమైన వెర్షన్‌కు పిన్ చేసి, వాటిని ధృవీకరించండి: ప్రతి మోడల్‌ను సమీక్షించిన వెర్షన్‌కు పిన్ చేసి, లోడ్ చేసే ముందు దాని ఫైల్ ఫింగర్‌ప్రింట్‌ను తనిఖీ చేయండి. అలా చేస్తే, మార్చిన ఫైల్ అదే లేబుల్ కింద చొరబడే అవకాశం ఉండదు. OWASP డిజిటల్ సంతకాలను కూడా సిఫార్సు చేస్తుంది, కానీ ఒక హెచ్చరికతో—సంతకం మోడల్ ఎక్కడి నుండి వచ్చిందో నిరూపిస్తుంది, అది సురక్షితమైనదని కాదు.
• మీ AI సూచించే ప్రతి ప్యాకేజీని తనిఖీ చేయండి: AI అసిస్టెంట్ సిఫార్సు చేసిన కోడ్ ప్యాకేజీని ఇన్‌స్టాల్ చేసే ముందు, అది నిజంగా ఉందని, మీరు ఉద్దేశించిన ప్యాకేజీ అదేనని, మీరు ఆశించిన పబ్లిషర్ నుండే వచ్చిందని నిర్ధారించుకోండి.

5. డేటా, మోడల్ పాయిజనింగ్ నుండి రక్షణ కల్పించండి

పాయిజనింగ్‌కు గురైన AI కలుషితమైన డేటా నుండి నేర్చుకుంటుంది. అది ఫైన్-ట్యూనింగ్‌కు ఉపయోగించిన ఉదాహరణలు కావచ్చు, లేదా సమాధానాల కోసం అది వెతికే నాలెడ్జ్ బేస్ కావచ్చు. మోడల్ ఇప్పటికీ సరిగ్గా పనిచేస్తున్నట్లే కనిపిస్తుంది; అది కేవలం తప్పుడు పాఠాలు నేర్చుకుంటుంది, కొన్నిసార్లు ఒక నిర్దిష్ట ట్రిగ్గర్ పదబంధాన్ని చూసినప్పుడు మాత్రమే తప్పుగా ప్రవర్తించడం నేర్చుకుంటుంది.

ఎవరైనా ఆ పదబంధాన్ని ఉపయోగించే వరకు, మీరు చేసే ప్రతి పరీక్షనూ అది దాటిపోతుంది.

విస్తరించు

అంతేకాకుండా, దీన్ని సరిదిద్దడం చాలా కష్టం. పాయిజనింగ్ అనేది ప్యాచ్ చేసి సరిచేయగల బగ్ కాదు. మీ డేటా తప్పుగా ఉంటే, మీరు దాన్ని మళ్లీ తనిఖీ చేయాల్సి రావచ్చు, మోడల్‌కు మళ్లీ శిక్షణ ఇవ్వాల్సి రావచ్చు, లేదా దాన్ని పూర్తిగా మార్చాల్సి రావచ్చు.

ఉదాహరణ: అక్టోబర్ 2025లో, Anthropic, UK AI Security Institute, Alan Turing Institute పరిశోధకులు, ఒక నిర్దిష్ట ట్రిగ్గర్ ఎదురైనప్పుడల్లా అర్థం లేని పదాలను ఉత్పత్తి చేసేలా ఒక మోడల్‌కు 250 కలుషిత డాక్యుమెంట్‌లు నేర్పగలవని చూపించారు. అతిపెద్ద మోడల్ 20 రెట్లకు పైగా శుభ్రమైన డేటాపై శిక్షణ పొందినప్పటికీ, పరీక్షించిన నాలుగు మోడల్ పరిమాణాలన్నింటిలోనూ అదే సంఖ్య పనిచేసింది.

మీరు ఏం చేయవచ్చు:

• మీ డేటా ఎక్కడి నుండి వస్తుందో ట్రాక్ చేయండి: మీరు ఉపయోగించే ప్రతి డేటాసెట్, మోడల్ గురించి — ప్రతిదీ ఎక్కడి నుండి వచ్చింది, వెర్షన్‌ల మధ్య ఏమి మారింది — రికార్డు ఉంచండి. డేటాసెట్‌లకు వెర్షన్ కంట్రోల్‌ను మేము సిఫార్సు చేస్తాము, తద్వారా పాయిజనింగ్ బయటపడితే, మీరు శుభ్రమైన వెర్షన్‌కు తిరిగి వెళ్లి, అది ఎలా ప్రవేశించిందో కనుగొనవచ్చు.
• బ్యాక్‌డోర్‌ల కోసం పరీక్షించండి: “బ్యాక్‌డోర్” అనేది దాడి చేసేవారు మోడల్‌లో అమర్చే దాగి ఉన్న ప్రవర్తన. దాన్ని యాక్టివేట్ చేయడానికి ఒక నిర్దిష్ట పదబంధం లేదా ఇతర ట్రిగ్గర్ కోసం అది ఎదురుచూస్తూ ఉంటుంది. మోడల్ తన సాధారణ నియమాలను ఉల్లంఘించేలా రూపొందించిన ఇన్‌పుట్‌లతో వీటి కోసం పరీక్షించండి.

6. అపరిమిత వినియోగానికి పరిమితి విధించండి

AIలు ఎంత పని చేయగలవు, ఎంత ఖర్చు చేయగలవు అనే దానిపై ఎలాంటి పరిమితులు లేనప్పుడు, వాటి వినియోగాన్ని “అపరిమితం” అని పరిగణిస్తారు. చాలా AI సేవలు వినియోగం ఆధారంగా ఛార్జ్ చేస్తాయి, కాబట్టి దాడి చేసేవారు మీ బిల్లును విపరీతంగా పెంచవచ్చు లేదా మీ మోడల్ నకలును రూపొందించవచ్చు.

OWASP ఈ ప్రధాన సమస్యను “ఖర్చు అసమానత” అని పిలుస్తుంది. చిన్న, చౌకైన అభ్యర్థన మీ వైపు ఖరీదైన కంప్యూటేషన్‌ను ప్రేరేపించగలదు.

ఉదాహరణ: మే 2024లో, Sysdigకి చెందిన Threat Research Team “LLMjacking” అనే కొత్త దాడిని కనుగొంది. దాడి చేసేవారి బృందం ఒకటి దొంగిలించిన క్రెడెన్షియల్స్‌ను ఉపయోగించి 10 క్లౌడ్-హోస్టెడ్ LLM సేవలను లక్ష్యంగా చేసుకుంది. వారు భద్రతా లోపం ఉన్న Laravel వెర్షన్ ద్వారా లోపలికి ప్రవేశించారు, ఆ తర్వాత ఆ క్రెడెన్షియల్స్‌తో ఏమి చేయవచ్చో, ఏవైనా కోటాలు ఉన్నాయో కనుగొన్నారు; యాక్సెస్‌ను అమ్ముకోవడమే వారి స్పష్టమైన లక్ష్యం. గుర్తింపును తప్పించుకోవడానికి కాబోలు, అనేక లాగింగ్ సెట్టింగ్‌లను కూడా వారు క్వెరీ చేశారు. Sysdig ప్రకారం, అత్యంత దారుణమైన పరిస్థితిలో బాధితునికి రోజుకు $46,000 కంటే ఎక్కువ ఖర్చు కావచ్చు.

మీరు ఏం చేయవచ్చు:

• ఖర్చును ఆపే బడ్జెట్‌లను సెట్ చేయండి: వ్యక్తిగత యూజర్లు, API కీలు, బృందాలు, మొత్తం ఖాతా కోసం కఠినమైన ఖర్చు పరిమితులను పెట్టండి. అభ్యర్థనలు ప్రవేశించగల ప్రతి చోటా వాటిని అమలు చేయండి.
• ప్రతి టాస్క్‌కూ ఒక ముగింపు బిందువు ఇవ్వండి: ఒక టాస్క్ ఎంతసేపు నడవగలదో, అది ఎంత టెక్స్ట్‌ను ప్రాసెస్ చేసి, రూపొందించగలదో, ఎన్ని టూల్ కాల్స్ చేయగలదో పరిమితం చేయండి. ఒకే పనిని పదే పదే చేసే లేదా తమకు కేటాయించిన పరిమితిని మించిన ఏజెంట్ల కోసం ఆటోమేటిక్ కటాఫ్‌లను జోడించండి.

7. చర్య తీసుకునే ముందే తప్పుడు సమాచారాన్ని గుర్తించండి

AI సరైనదిగా అనిపించే తప్పుడు విషయాన్ని రూపొందించి, ఎవరైనా లేదా ఏదైనా దాని ఆధారంగా చర్య తీసుకుంటే, దాన్ని తప్పుడు సమాచారం అంటారు. ఇక్కడ ప్రధాన ప్రమాదం తప్పుడు సమాధానం కాదు, ఆ తప్పుడు సమాధానాన్ని నమ్మి ఉపయోగించడమే.

సంఘటనల రికార్డును చూస్తే, తప్పుడు సమాచారం గురించి ఈ రంగంలోని నిపుణులు ఆందోళన చెందాల్సినంతగా చెందలేదని తెలుస్తోంది. 2026 ఎడిషన్ ప్రారంభ లేఖ ప్రకారం, ఓటర్లు దీన్ని జాబితా దిగువన ఉంచారు, కానీ వాస్తవ సంఘటనల ప్రకారం ఇది అగ్రస్థానానికి దగ్గరగా ఉంది.

ఉదాహరణ: 2025లో, Deloitte Australia A$440,000 ప్రభుత్వ కాంట్రాక్ట్ కింద సంక్షేమ IT సిస్టమ్‌ల సమీక్షను అందించింది. యూనివర్సిటీ ఆఫ్ సిడ్నీకి చెందిన పరిశోధకుడు క్రిస్ రడ్జ్ ఉనికిలో లేని పరిశోధనలకు సంబంధించిన రెఫరెన్స్‌లను, ఫెడరల్ కోర్టు తీర్పు నుండి కల్పిత ఉల్లేఖనాన్ని కనుగొన్నారు. సవరించిన నివేదికలో Deloitte తన పద్ధతిలో Azure OpenAI GPT-4oను ఉపయోగించిందని వెల్లడించారు, ఆ సంస్థ చివరి వాయిదాను తిరిగి చెల్లించడానికి అంగీకరించింది. దురదృష్టవశాత్తూ, ఇది ఒక హామీ సమీక్ష (assurance review).

మీరు ఏం చేయవచ్చు:

• సమాధానానికి ఆధారాలు మద్దతిస్తున్నాయో లేదో తనిఖీ చేయండి: వాదనలను ప్రస్తుత, అధికారిక మూలాల ఆధారంగా నిర్ధారించండి. పాలసీకి సంబంధించిన సమాధానం కోసం, ఆమోదించిన పాలసీని తిరిగి పొంది, దాని మినహాయింపులతో సహా అది ఆ నిర్ధారణకు మద్దతిస్తుందో లేదో తనిఖీ చేయండి.
• సిస్టమ్ చర్య తీసుకునే ముందు ధృవీకరించండి: ఒక కస్టమర్ గుర్తింపు తనిఖీలో ఉత్తీర్ణులయ్యారని ఏజెంట్ చెబితే, చెల్లింపును విడుదల చేసే ముందు దాన్ని వెరిఫికేషన్ సిస్టమ్‌తో సరిచూసుకోండి. ముఖ్యమైన పరిణామాలు ఉండే నిర్ణయాలకు మనిషి ఆమోదాన్ని తప్పనిసరి చేయండి, సమీక్షించే వ్యక్తికి సహాయక ఆధారాలను అందుబాటులో ఉంచండి.

8. దాచిన సందర్భ సమాచార బహిర్గతం వల్ల కలిగే నష్టాన్ని పరిమితం చేయండి

AI అప్లికేషన్‌లు యూజర్లు సాధారణంగా చూడని సూచనలను, నేపథ్య సమాచారాన్ని మోడల్‌కు ఇస్తాయి. అందులో సిస్టమ్ ప్రాంప్ట్, అంతర్గత పాలసీలు, అందుబాటులో ఉన్న టూల్స్ వివరణలు, వాటిని ఎవరు ఉపయోగించవచ్చనే నియమాలు ఉండవచ్చు. మోడల్ ఆ సమాచారాన్ని ఎవరికైనా వెల్లడించినప్పుడు దాచిన సందర్భ సమాచార బహిర్గతం జరుగుతుంది.

సిస్టమ్ ప్రాంప్ట్ అనేది బయటకు వెళ్లగల దానిలో ఒక భాగం మాత్రమే కాబట్టి, OWASP 2026లో ఈ ఎంట్రీని “సిస్టమ్ ప్రాంప్ట్ లీకేజ్” నుండి విస్తరించింది. ప్రమాదం మీరు అక్కడ ఏమి ఉంచారనే దానిపై ఆధారపడి ఉంటుంది. లీకైన టోన్-ఆఫ్-వాయిస్ గైడ్ కొంచెం ఇబ్బందికరంగా ఉంటుంది, కానీ లీకైన API కీ మీ గోప్యమైన డేటాబేస్‌కు ఎవరికైనా యాక్సెస్ ఇస్తుంది.

ఉదాహరణ: ఫిబ్రవరి 2023లో, యూజర్లు Microsoft Bing Chat తన అంతర్గత సూచనలను వెల్లడించేలా చేశారు. విజయవంతమైన ఒక ప్రయత్నం మార్విన్ వాన్ హాగెన్ నుండి వచ్చింది; ఆయన తాను OpenAI డెవలపర్‌నని చెప్పుకుని, మోడల్‌ను కాన్ఫిగర్ చేయడానికి సూచనలు కావాలని అడిగారు. Bing తన సెర్చ్‌లు, ప్రతిస్పందనలు, భద్రతా ప్రవర్తనను నియంత్రించే నియమాలను, తన అంతర్గత పేరు Sydneyతో సహా వెల్లడించింది. బయటపడిన సూచనలలో, ఆ సూచనలను గోప్యంగా ఉంచమని చెప్పే సూచన కూడా ఒకటి ఉంది.

మీరు ఏం చేయవచ్చు:

• రహస్యాలను మోడల్ కాంటెక్స్ట్‌కు దూరంగా ఉంచండి: మోడల్ చదవగలిగే ఏదైనా వినియోగదారులకు కనిపించే అవకాశం ఉందని భావించండి—పాస్‌వర్డ్‌లు, API కీలు, యాక్సెస్ టోకెన్‌లను ప్రత్యేక సీక్రెట్స్-మేనేజ్‌మెంట్ సిస్టమ్‌లో నిల్వ చేయండి.
• నియమాలు లీక్ అయినా అనుమతులు నిలిచి ఉండేలా చేయండి: మీ అప్లికేషన్ కోడ్‌లోనే యాక్సెస్ తనిఖీలను అమలు చేయండి. ఒక టూల్ అడ్మినిస్ట్రేటర్లకు మాత్రమే పరిమితమైతే, దాన్ని రన్ చేసే ముందు వినియోగదారు ఖాతా అనుమతులను తనిఖీ చేయండి.

9. మీ వెక్టర్‌లు మరియు ఎంబెడింగ్‌లను కట్టుదిట్టంగా భద్రపరచండి

ఒక AI మీ కంపెనీ డాక్యుమెంట్లలో సమాధానాలను కనుగొనడానికి వెక్టర్ సెర్చ్‌ను ఉపయోగించినప్పుడు, అది టెక్స్ట్‌ను నేరుగా శోధించదు. డాక్యుమెంట్లు “ఎంబెడింగ్‌లు”గా మార్చబడి—అంటే ప్రతి భాగం అర్థాన్ని సూచించే సంఖ్యల పొడవైన జాబితాలుగా—వెక్టర్ డేటాబేస్‌లో నిల్వ చేయబడతాయి. ప్రశ్న కూడా అదే విధంగా మార్చబడుతుంది, ఆ తర్వాత ఏ భాగాల సంఖ్యలు దానికి అత్యంత దగ్గరగా ఉంటాయో వాటిని సిస్టమ్ బయటకు తీస్తుంది.

ఇది విఫలమయ్యే నాలుగు మార్గాలను OWASP ఇలా సంగ్రహిస్తుంది: పాయిజనింగ్ సిస్టమ్‌ను తప్పుగా పనిచేసేలా చేస్తుంది, ఇన్వర్షన్ దాని ద్వారా డేటా లీక్ అయ్యేలా చేస్తుంది, జామింగ్ దాన్ని మౌనంగా ఉండేలా చేస్తుంది, మరియు లోపభూయిష్టమైన యాక్సెస్ కంట్రోల్ దాన్ని ఎవరికైనా ఏదైనా అందించేలా చేస్తుంది.

ఈ సంఖ్యలు కనిపించినంత సురక్షితమైన అబ్‌స్ట్రాక్షన్ కాదు. నిల్వ చేసిన ఎంబెడింగ్‌లను తిరిగి టెక్స్ట్‌గా మార్చవచ్చు, మరియు ఒక పద్ధతి తన పరీక్షల్లో 32 టోకెన్ల చిన్న భాగాలలో 92%ను యథాతథంగా పునరుద్ధరించింది. కాబట్టి లీక్ అయిన “ఎంబెడింగ్‌లు మాత్రమే” ఉన్న బ్యాకప్ కూడా డాక్యుమెంట్లలోని విషయాలను బహిర్గతం చేయగలదు.

ఉదాహరణ: USENIX Security 2025లో సమర్పించిన పరిశోధనలో, జాగ్రత్తగా రూపొందించిన ఒకే ఒక డాక్యుమెంట్ ఒక నిర్దిష్ట ప్రశ్నకు AI సమాధానం ఇవ్వకుండా ఆపగలదని పరిశోధకులు చూపించారు. AI శోధించే సేకరణలో వారు దాన్ని చేర్చారు. AI దాన్ని కనుగొన్నప్పుడు, తన వద్ద తగినంత సమాచారం లేదని లేదా సమాధానం ఇవ్వడం సురక్షితం కాదని అది చెప్పవచ్చు. తన నియమాలను విస్మరించమని ఆ డాక్యుమెంట్ AIకి చెప్పాల్సిన అవసరం కూడా లేదు. దీన్ని “రిట్రీవల్ జామింగ్” అంటారు.

మీరు ఏం చేయవచ్చు:

• పబ్లిక్ మరియు ప్రైవేట్ డేటా కోసం వేర్వేరు ఇండెక్స్‌లను నిర్వహించండి: స్క్రేప్ చేసిన వెబ్ కంటెంట్‌ను భాగస్వాముల డేటాతో లేదా గోప్యమైన అంతర్గత డాక్యుమెంట్లతో కలపవద్దు. ఒకే ఇండెక్స్‌లో కంటెంట్‌ను ట్యాగ్ చేయడానికి బదులుగా విశ్వసనీయత స్థాయి ఆధారంగా భౌతికంగా వేరు చేయండి, ఎందుకంటే ఇది ఒక రకమైన కాన్ఫిగరేషన్ లోపాలన్నింటినీ తొలగిస్తుంది, అలాగే ఇంటర్నెట్ నుండి స్క్రేప్ చేసిన కంటెంట్ మీ బోర్డు పత్రాల పక్కన చేరే అవకాశం ఉండదు.
• ఎంబెడింగ్‌లను అవి వచ్చిన డాక్యుమెంట్లలాగే పరిగణించండి: వాటిని ఎన్‌క్రిప్ట్ చేయండి, సోర్స్ ఫైల్‌లతో పాటు వెక్టర్ డేటాబేస్ బ్యాకప్‌లను కూడా రక్షించండి, మరియు అసలు డాక్యుమెంట్‌ను తొలగించినప్పుడు ఎంబెడింగ్‌లను కూడా తొలగించండి. మీ ఎంబెడింగ్ సర్వీస్ కోసం API కీలను రహస్యంగా ఉంచాలి.

10. AI అవుట్‌పుట్‌ను ముందుకు పంపే ముందు తనిఖీ చేయండి

ఒక అప్లికేషన్ AI అవుట్‌పుట్‌ను మరో సిస్టమ్‌లో ఉపయోగించడానికి సురక్షితమో కాదో ధృవీకరించకుండానే దానికి పంపినప్పుడల్లా, అది LLM అవుట్‌పుట్‌ను సరిగ్గా నిర్వహించడం లేదని అర్థం.

AI కోడింగ్ అసిస్టెంట్లు భారీ స్థాయిలో రూపొందించే అసురక్షిత కోడ్ కూడా ఈ ఎంట్రీ పరిధిలోకి వస్తుంది. అందువల్ల, అసిస్టెంట్ రాసే ప్రతి లైన్ కూడా అవుట్‌పుట్ కిందికే వస్తుంది.

ఉదాహరణ: 2025లో, Sourcegraph యొక్క Amp కోడింగ్ అసిస్టెంట్ కేవలం ఒక చిత్రాన్ని ప్రదర్శించడం ద్వారా చాట్ కంటెంట్‌ను ఎలా లీక్ చేయగలదో పరిశోధకుడు Johann Rehberger చూపించారు. Amp ఒక చిత్రం వెబ్ చిరునామాలో ప్రైవేట్ సమాచారాన్ని చేర్చేలా చేయడానికి ఆయన ప్రాంప్ట్ ఇంజెక్షన్‌ను ఉపయోగించారు. ఆ తర్వాత అప్లికేషన్ ఆ చిత్రాన్ని ఆటోమేటిక్‌గా ఫెచ్ చేసి, ఆ సమాచారాన్ని ఆయన సర్వర్‌కు పంపింది. అవుట్‌పుట్ హ్యాండ్లింగ్ వైఫల్యం ఆ ఆటోమేటిక్ అభ్యర్థనే—మోడల్ రూపొందించిన టెక్స్ట్ బయటి సర్వర్‌కు కనెక్షన్‌గా మారి, తనతో పాటు ప్రైవేట్ డేటాను తీసుకువెళ్లింది.

మీరు ఏం చేయవచ్చు:

• అవుట్‌పుట్ దాని గమ్యస్థానానికి సురక్షితంగా ఉండేలా చేయండి: ప్రతిస్పందనలు ఎక్కడికి వెళ్తాయో దాని ఆధారంగా వాటిని తనిఖీ చేసి నిర్వహించండి. వెబ్‌పేజీ కోసం అయితే, రూపొందించిన టెక్స్ట్ ఎగ్జిక్యూటబుల్ కోడ్‌గా మారకుండా నిరోధించండి. డేటాబేస్ కోసం అయితే, అందించిన విలువలను కమాండ్‌ల నుండి వేరుగా ఉంచే ప్రిపేర్డ్ క్వెరీలను ఉపయోగించండి.
• సమాధానాలు ఆటోమేటిక్‌గా బయటి కనెక్షన్లు చేయకుండా ఆపండి: మోడల్ ప్రతిస్పందనల్లో చిత్రాలు, లింక్ ప్రివ్యూలు, ఎంబెడెడ్ పేజీలు ఆటోమేటిక్‌గా లోడ్ అవ్వడాన్ని డిఫాల్ట్‌గా నిలిపివేయండి. అవసరమైన కనెక్షన్లను స్పష్టంగా ఆమోదించిన గమ్యస్థానాలకు మాత్రమే పరిమితం చేయండి.

Perplexity LLMలను ఎలా సురక్షితం చేస్తుంది?

పైన పేర్కొన్న ప్రతి ప్రమాదం ఏదో ఒక రోజు నిజంగా ఎదురవుతుందని మేము భావిస్తాము, అది ఎదురైనప్పుడు పెద్దగా నష్టం చేయలేని విధంగా మా సిస్టమ్‌లను డిజైన్ చేస్తాము. మా CISO, Kyle Polley, ఇది ఎలాగో ఒక ఇటీవలి వర్క్‌షాప్లో వివరించారు.

• ఏజెంట్‌కు దాని సొంత కంప్యూటర్ ఉంటుంది, అది ఖాళీగా ప్రారంభమవుతుంది: మీ ల్యాప్‌టాప్‌లో ఇన్‌స్టాల్ చేసిన ఏజెంట్ టూల్స్ దానిలోని ఫైల్‌లు, యాప్‌లు, సేవ్ చేసిన క్రెడెన్షియల్స్‌కు యాక్సెస్ పొందగలవు. Perplexity Computer దీనికి భిన్నంగా పనిచేస్తుంది. ప్రతి టాస్క్ దాని సొంత ఐసోలేటెడ్ శాండ్‌బాక్స్లో రన్ అవుతుంది, మరియు Polley చెప్పినట్లుగా, “డిఫాల్ట్‌గా దానికి దేనికీ యాక్సెస్ ఉండదు.”
• ఏజెంట్ ఎప్పుడూ పాస్‌వర్డ్‌లను చూడదు: కనెక్ట్ చేసిన సర్వీసుల క్రెడెన్షియల్స్ శాండ్‌బాక్స్ వెలుపల నిల్వ చేయబడతాయి. ఏజెంట్ GitHub వంటి సర్వీస్‌ను చేరుకోవాల్సి వచ్చినప్పుడు, అది ఎలాంటి క్రెడెన్షియల్స్ జోడించకుండానే అభ్యర్థనను పంపుతుంది. గమ్యస్థానం మరియు అభ్యర్థన ఊహించినవేనా అని ఒక గేట్‌వే తనిఖీ చేసి, ఆ తర్వాత అభ్యర్థన బయటకు వెళ్లే మార్గంలో క్రెడెన్షియల్స్‌ను జోడిస్తుంది. కీలు పొందకుండానే ఏజెంట్ ఆ కనెక్షన్‌ను ఉపయోగించగలదు.
• మీ అనుమతులు అలాగే కొనసాగుతాయి, మీరు వాటిని మరింత కఠినతరం కూడా చేయవచ్చు: OAuth ద్వారా చేసిన కనెక్షన్లు కనెక్ట్ చేసిన సర్వీస్‌లోని మీ యాక్సెస్ అనుమతులను యథాతథంగా ఉంచుతాయి. మీరు దేనినైనా చూడలేకపోతే, మీ ఏజెంట్ కూడా దాన్ని చూడలేదు.
• ప్రతి వెబ్ పేజీని అపరిచితుడిలాగే పరిగణిస్తాము: మేము పరీక్షించిన టూల్స్ వాస్తవ వినియోగంలో మా అవసరాలను తీర్చకపోవడంతో, మా ఏజెంటిక్ బ్రౌజర్ Comet కోసం BrowseSafeను నిర్మించాము. ఈ బ్రౌజర్ వెబ్ పేజీలను, ఈమెయిల్‌లతో సహా ఇతర బయటి కంటెంట్‌ను ప్రాంప్ట్ ఇంజెక్షన్ కోసం స్కాన్ చేస్తుంది. మేము మోడల్ మరియు డేటాసెట్ రెండింటినీ ఓపెన్ సోర్స్ చేశాము.
• ఏజెంట్‌ను, అది రన్ అయ్యే మెషీన్లను మేము పర్యవేక్షిస్తాము: Numbat ఒక ఏజెంట్ చర్య తీసుకోవాలని నిర్ణయించుకోవడానికి, టూల్ వాస్తవంగా రన్ అవ్వడానికి మధ్యలో ఉంటుంది. Numbat మద్దతు ఉన్న కోడింగ్ ఏజెంట్లన్నింటిలో కార్యకలాపాలను లాగ్ చేస్తుంది మరియు కాన్ఫిగర్ చేసిన పాలసీలను ఉల్లంఘించే చర్యలను అవి అమలయ్యే ముందే బ్లాక్ చేయగలదు. Bumblebee ల్యాప్‌టాప్‌లు, సర్వర్లు, బిల్డ్ పైప్‌లైన్‌లలోని సాఫ్ట్‌వేర్ ప్యాకేజీల ఇన్వెంటరీని రూపొందించి, తెలిసిన హానికరమైన వాటిని ఫ్లాగ్ చేస్తుంది. ఈ రెండూ ఓపెన్ సోర్స్.
• మోడల్ ప్రొవైడర్లు మీ డేటాను నిల్వ ఉంచుకోరు: మా థర్డ్-పార్టీ LLM ప్రొవైడర్లతో మాకు జీరో డేటా రిటెన్షన్ ఒప్పందాలు ఉన్నాయి. Enterprise అడ్మిన్‌లు Perplexity సొంత డేటా రిటెన్షన్ వ్యవధిని కూడా 24 గంటలంత తక్కువగా సెట్ చేయవచ్చు.

మేము Numbatను ముందుచూపుతో నిర్మించాము, దానికి గల కారణాన్ని Polley ఒక్క వాక్యంలో ఇలా సంగ్రహిస్తారు: “మీరు ఏజెంట్‌కు ఎంత ఎక్కువ స్వయంప్రతిపత్తి ఇస్తే, అంత ఎక్కువ ప్రమాదం ఉంటుంది.”

LLM భద్రతపై తరచుగా అడిగే ప్రశ్నలు

అత్యంత సురక్షితమైన LLM ఏది?

ఏ LLM కూడా స్వయంగా ఒక అప్లికేషన్‌ను సురక్షితం చేయదు—తాము చదవాల్సిన కంటెంట్‌ను పాటించాల్సిన సూచనలుగా మోడల్‌లు ఇప్పటికీ పొరబడవచ్చు. ప్రామాణిక పరీక్షల్లో బలంగా కనిపించే రక్షణలు కూడా ఒత్తిడిలో కుప్పకూలవచ్చు.

మీ వినియోగ సందర్భానికి ఏ సెటప్ అత్యంత సురక్షితమైనది అన్నదే మెరుగైన ప్రశ్న. అంటే పరిమిత అనుమతులు, మోడల్‌కు దూరంగా ఉంచిన క్రెడెన్షియల్స్, ప్రమాదకర చర్యలకు మనుషుల ఆమోదం, మరియు మీ రక్షణల గురించి తెలిసిన వ్యక్తుల ద్వారా పరీక్ష.

LLM దుర్బలత్వాలు అంటే ఏమిటి?

LLM దుర్బలత్వాలు అనేవి దాడి చేసే వ్యక్తి ద్వారా గానీ, దాని సొంత పొరపాట్ల ద్వారా గానీ ఒక AI సిస్టమ్ మోసపోవడానికి, డేటాను లీక్ చేయడానికి, లేదా నష్టం కలిగించడానికి దారితీసే బలహీనతలు.

పది ప్రధాన ప్రమాదాలు: ప్రాంప్ట్ ఇంజెక్షన్, సున్నితమైన సమాచారం బహిర్గతం, అధిక ఏజెన్సీ, సప్లై చైన్, డేటా మరియు మోడల్ పాయిజనింగ్, అపరిమిత వినియోగం, తప్పుడు సమాచారం, దాచిన కాంటెక్స్ట్ బహిర్గతం, వెక్టర్ మరియు ఎంబెడింగ్ బలహీనతలు, మరియు సరికాని అవుట్‌పుట్ హ్యాండ్లింగ్.

ప్రైవేట్ LLM సురక్షితమేనా?

కొన్ని విషయాలకు ఇది మరింత సురక్షితమైన ఎంపిక, కానీ డిఫాల్ట్‌గా కాదు. మీరు మోడల్‌ను మీ సొంత ఇన్‌ఫ్రాస్ట్రక్చర్‌పై లేదా క్లౌడ్ ఎన్విరాన్‌మెంట్‌లో రన్ చేస్తే, డేటా హ్యాండ్లింగ్‌పై మీకు ఎక్కువ నియంత్రణ ఉంటుంది. అయితే ప్రాంప్ట్ ఇంజెక్షన్‌లు, అధిక ఏజెన్సీ, పాయిజనింగ్, లేదా తప్పుడు సమాచారాన్ని ఆటోమేటిక్‌గా నిరోధించే మార్గం ఏదీ లేదు.

సెల్ఫ్-హోస్టింగ్‌లో భాగంగా, మీరు డౌన్‌లోడ్ చేసే మోడల్‌కు, దానితో ముడిపడిన సప్లై చైన్ ప్రమాదాలకు, దానికి అవసరమైన ఇన్‌ఫ్రాస్ట్రక్చర్‌కు కూడా మీరే బాధ్యులు.