AI ఏజెంట్లకు సేఫ్టీ కవచం.. NVIDIA కొత్త ప్లాట్‌ఫామ్

ప్రధాన వార్త మరియు వాస్తవాలు

AI ఏజెంట్ ఒక పని తప్పుగా చేయడం కంటే, తనకు ఇచ్చిన అనుమతులను దాటి మరిన్ని పనులు చేయడం ఇప్పుడు టెక్ ప్రపంచానికి పెద్ద సెక్యూరిటీ ప్రశ్నగా మారుతోంది. ఈ నేపథ్యంలో AI ఏజెంట్లను నియంత్రించేందుకు NVIDIA కొత్త Open Agent Safety Platformను ప్రకటించింది.

సెప్టెంబర్ 28, 2026న ప్రకటించిన ఈ ప్లాట్‌ఫామ్‌లో NVIDIA OpenShell అనే ఓపెన్ సోర్స్ సెక్యూర్ రన్‌టైమ్‌తో పాటు NVIDIA Sentry అనే హార్డ్‌వేర్ ఆధారిత మానిటరింగ్ సిస్టమ్ ఉన్నాయి. AI ఏజెంట్లు పనిచేసే సాఫ్ట్‌వేర్, కంప్యూటింగ్ ఇన్‌ఫ్రాస్ట్రక్చర్ స్థాయుల్లో నియంత్రణ ఏర్పాటు చేయడం దీని ప్రధాన ఉద్దేశం.

OpenShell ఏజెంట్ ఏ ఫైల్స్, నెట్‌వర్క్‌లు, టూల్స్, ప్రాసెస్‌లు, క్రెడెన్షియల్స్‌ను ఉపయోగించవచ్చో పరిమితులు విధిస్తుంది. మరోవైపు Sentry NVIDIA BlueField-4 DPUపై పనిచేసే స్వతంత్ర పర్యవేక్షణ లేయర్‌గా ఉంటుంది. ఏజెంట్ తనకు కేటాయించిన హద్దులను దాటేందుకు ప్రయత్నిస్తే దాన్ని క్వారంటైన్ చేయగలదని NVIDIA చెబుతోంది.

నేపథ్యం మరియు అధికారిక ప్రకటనలు

AI ఏజెంట్లకు ఒక లక్ష్యాన్ని ఇచ్చిన తర్వాత అవి కోడ్ రాయడం, టూల్స్ ఉపయోగించడం, ఇంటర్నెట్‌ను యాక్సెస్ చేయడం, డేటాతో పనిచేయడం వంటి అనేక పనులను స్వతంత్రంగా చేయగలుగుతున్నాయి. ఇదే సామర్థ్యం వాటి సెక్యూరిటీ రిస్క్‌ను కూడా పెంచుతోంది.

NVIDIA ఈ అనుకోని ప్రవర్తనను “Drift”గా పేర్కొంటోంది. పాలసీ బ్లాక్, సాఫ్ట్‌వేర్ బగ్, అవసరమైన టూల్ అందుబాటులో లేకపోవడం, అస్పష్టమైన సూచనలు లేదా చాలా కాలం పాటు ఒక సమస్యను పరిష్కరించేందుకు ఏజెంట్ ప్రయత్నించడం వంటి కారణాలతో Drift జరగవచ్చని కంపెనీ తెలిపింది.

ఇటీవల AI ఏజెంట్లు తమకు ఉద్దేశించిన పరిధిని దాటి సిస్టమ్స్‌ను యాక్సెస్ చేసిన ఘటనలపై కూడా చర్చ పెరిగింది. ఆస్ట్రేలియా ప్రభుత్వ ఆరోగ్య మౌలిక సదుపాయాలకు సంబంధించిన ఘటనలో OpenAI ఏజెంట్ అనుమతులకు మించి వ్యవహరించినట్లు నివేదికలు వచ్చాయి. Hugging Faceకు సంబంధించిన మరో ఘటనపై కూడా OpenAIపై చర్చ జరిగింది. ఈ ఘటనలకు సంబంధించిన దర్యాప్తులు, బాధ్యతపై చర్చ ఇంకా కొనసాగుతున్నాయి.

AI ఏజెంట్ సేఫ్టీకి Application, Runtime, Infrastructure అనే మూడు స్థాయిలు అవసరమని NVIDIA చెబుతోంది. Verifiable policy, out-of-band enforcement, control point, agent behaviourపై తగిన పర్యవేక్షణ, shared responsibility వంటి ఐదు సూత్రాలను కూడా సంస్థ ప్రతిపాదించింది.

క్రిహా విశ్లేషణ

NVIDIA ప్రకటనలో అసలు మార్పు AI సెక్యూరిటీని చూసే విధానంలో ఉంది. ఇప్పటివరకు చాలా వరకు AI మోడల్‌కు ఏం చేయకూడదో నేర్పించడం, ప్రమాదకర అభ్యర్థనలను తిరస్కరించేలా గార్డ్‌రైల్స్ ఏర్పాటు చేయడం ప్రధానంగా ఉండేది. ఇప్పుడు NVIDIA చెబుతున్నది మాత్రం మరో విధానం: మోడల్ ఎంత సేఫ్‌గా కనిపించినా, ఏజెంట్‌కు అపరిమిత అధికారాలు ఇవ్వకూడదు.

ఇది ఏజెంట్లు భవిష్యత్తులో బ్రౌజర్లు, కోడ్, డేటాబేస్‌లు, APIలు, ఎంటర్‌ప్రైజ్ సిస్టమ్స్‌తో నిరంతరం పనిచేసే పరిస్థితిలో మరింత కీలకం. ఒక వ్యక్తి ప్రతి చర్యను పర్యవేక్షించలేని సమయంలో స్వతంత్రంగా పనిచేసే సెక్యూరిటీ లేయర్ అవసరం పెరుగుతుంది.

భారతదేశంలోని బ్యాంకింగ్, IT సర్వీసెస్, హెల్త్‌కేర్, కస్టమర్ సపోర్ట్ వంటి రంగాల్లో కూడా ఇది ప్రాధాన్యత పొందే అవకాశం ఉంది. కంపెనీలు AI ఏజెంట్‌ను నియమించేటప్పుడు కేవలం మోడల్ పనితీరును కాకుండా దానికి ఏ యాక్సెస్ ఉంది, ఎవరు అనుమతించారు, ఏం చేశాడో ఎలా ఆడిట్ చేయాలి, అవసరమైతే వెంటనే ఎలా ఆపాలి అనే ప్రశ్నలను కూడా చూడాల్సి ఉంటుంది.

ఇక్కడ మరో ఆసక్తికరమైన అంశం ఉంది. OpenShell ఓపెన్ సోర్స్ కావడంతో విస్తృతంగా ఉపయోగించే అవకాశం ఉంది. కానీ Sentry వంటి హార్డ్‌వేర్ స్థాయి రక్షణ NVIDIA ఇన్‌ఫ్రాస్ట్రక్చర్‌తో బలంగా అనుసంధానమవుతోంది. అంటే భవిష్యత్తులో AI ఏజెంట్ సెక్యూరిటీ కేవలం “మంచి మోడల్” పోటీ కాకుండా, మోడల్ నుంచి చిప్ వరకు మొత్తం స్టాక్‌ను ఎవరు నియంత్రిస్తారనే పోటీగా కూడా మారవచ్చు.