Yapay zekâ dünyasında son birkaç yıldır temel tartışma, modellerin ne kadar iyi cevap verdiğinden çok ne kadar bağımsız hareket edebildiğine doğru kayıyor. Bir sohbet botunun yanlış cevap vermesi ile bir AI ajanının yanlış karar vermesi arasında ciddi bir fark var. Çünkü modern ajanlar artık yalnızca metin üretmiyor; dosya okuyabiliyor, kod çalıştırabiliyor, API çağrısı yapabiliyor, internete bağlanabiliyor, başka ajanlar oluşturabiliyor ve bazı durumlarda günler boyunca insan müdahalesi olmadan görevlerini sürdürebiliyor.
NVIDIA bu soruna oldukça farklı bir yerden yaklaşan yeni platformunu 28 Eylül 2026’da duyurdu: NVIDIA Open Agent Safety Platform.
Şirketin yaklaşımının özünde basit ama önemli bir fikir bulunuyor:
Yapay zekânın güvenli davranacağına güvenmek yerine, yapabileceklerini sistem seviyesinde sınırlandırmak.
NVIDIA’nın çözümü bunun için iki temel bileşeni bir araya getiriyor: OpenShell ve NVIDIA Sentry. Birincisi ajanı yazılım seviyesinde izole ediyor ve yetkilerini sınırlandırıyor; ikincisi ise ajanı çalıştıran sistemin dışında, ayrı donanım üzerinden onu izliyor. NVIDIA bunu “full-stack safety”, yani yazılımdan donanıma uzanan bütünleşik güvenlik yaklaşımı olarak tanımlıyor.
Sorun: AI ajanı artık yalnızca cevap üretmiyor
Klasik büyük dil modellerinde güvenlik önlemlerinin büyük bölümü modelin davranışına odaklanıyordu. Sistem promptları, RLHF, güvenlik filtreleri ve model politikaları ile modele hangi davranışların kabul edilebilir olduğu öğretilmeye çalışılıyordu.
Ajan sistemlerinde ise sorun daha karmaşık.
Bir ajan kendisine verilen “bu yazılım hatasını bul” görevini yerine getirirken terminal açabilir, Python kodu oluşturabilir, dosyaları inceleyebilir, internette araştırma yapabilir, API anahtarlarını kullanabilir ve başka sistemlere bağlanabilir.
Burada asıl soru artık:
“Model kötü bir cevap verir mi?”
değil,
“Model yanlış bir karar verirse bilgisayarda ne yapabilir?”
haline geliyor.
NVIDIA’nın Open Agent Safety Platform’u tam olarak bu ikinci soruya cevap vermeye çalışıyor.
Şirket, son dönemdeki ajan güvenliği olaylarının ortak özelliğinin uygulama seviyesindeki güvenlik mekanizmalarının aşılması olduğunu söylüyor. Bu nedenle güvenlik kontrolünün yalnızca modelin ya da agent framework’ünün içinde bulunmasının yeterli olmadığını savunuyor.
OpenShell: Ajanın etrafına çizilen görünmez sınır
Platformun ilk önemli bileşeni NVIDIA OpenShell.
OpenShell açık kaynaklı bir “secure runtime”, yani güvenli çalışma ortamı. Bir AI ajanının işletim sistemi, dosyalar, ağ ve diğer servislerle nasıl etkileşime girebileceğini dışarıdan kontrol ediyor.
Temel prensip klasik siber güvenlik dünyasındaki least privilege – minimum yetki yaklaşımına dayanıyor:
Bir ajana işi için gerekmeyen hiçbir yetki verilmemeli.
OpenShell’de varsayılan yaklaşım “izin ver” değil, “reddet”. Ajan ancak açık biçimde tanımlanmış politikalara göre belirli kaynaklara ulaşabiliyor.
Örneğin bir kurumsal AI ajanının yalnızca belirli bir proje klasöründeki dosyaları okuması gerekiyorsa, bütün dosya sistemine erişim vermek yerine sadece ilgili klasör açılabiliyor.
Benzer şekilde ajan bir API’ye bağlanabiliyor ancak API’nin bütün fonksiyonlarını kullanmak zorunda değil.
Örneğin:
GET /customers
çağrısına izin verilirken,
DELETE /customers
engellenebiliyor.
OpenShell HTTP, GraphQL ve MCP – Model Context Protocol trafiğini politika bazında inceleyebiliyor. Yani yalnızca “bu sunucuya bağlanabilir” seviyesinde değil, aynı servis içerisinde hangi işlemlerin yapılabileceği seviyesinde denetim uygulanabiliyor.
Ajanın kendi güvenliğini kapatamaması
Buradaki en önemli mimari detaylardan biri, güvenlik mekanizmasının ajan prosesinin dışında çalışması.
Bir AI ajanı kendi terminaline erişebiliyor, kod yazabiliyor veya child process oluşturabiliyorsa, teorik olarak kendi güvenlik mekanizmalarını etkisiz hale getirmeyi de deneyebilir.
OpenShell bu nedenle güvenlik kararlarını doğrudan ajan prosesine bırakmıyor.
Sistem üç temel parçadan oluşuyor:
OpenShell Gateway, çok sayıda ajanın ve sandbox’ın yaşam döngüsünü ve güvenlik politikalarını yönetiyor.
OpenShell Supervisor, her sandbox’ın dışında çalışıyor ve ajanın dış dünyaya yaptığı istekleri kontrol ediyor.
OpenShell Sandbox ise ajanın fiilen çalıştığı izole ortamı oluşturuyor.
Ajanın doğrudan internet bağlantısı bulunmuyor. Dış sistemlere yönelik trafik supervisor üzerinden geçiyor ve tanımlanan politikalara göre izin veriliyor veya engelleniyor.
Bu mimarinin önemi şu:
Ajan shell açsa, kendi yazdığı kodu çalıştırsa, başka process oluştursa hatta işi başka bir alt-ajana devretmeye çalışsa bile OpenShell’in koyduğu sınırlar ortadan kalkmıyor.
Başka bir ifadeyle güvenlik:
“AI bu kurala uymayı kabul edecek mi?”
sorusuna bağlı değil.
Formal verification: Güvenlik politikasının kendisini de kontrol etmek
OpenShell’in daha ilginç bölümlerinden biri Policy Prover.
Normal güvenlik sistemlerinde yöneticiler erişim kuralları oluşturur. Ancak karmaşık sistemlerde bu kuralların birbirleriyle birleşerek beklenmedik bir erişim yolu oluşturması mümkündür.
OpenShell’in Policy Prover bileşeni güvenlik politikalarını formal verification, yani biçimsel doğrulama teknikleriyle inceleyebiliyor.
Örneğin sisteme yeni bir network kuralı eklendiğinde sistem şu soruyu analiz edebiliyor:
“Bu değişiklik ajana daha önce sahip olmadığı yeni bir erişim yolu açıyor mu?”
Böylece güvenlik yalnızca ajanın davranışına değil, ajanı kontrol eden politikaların doğruluğuna da uygulanıyor.
API anahtarları da ajandan saklanıyor
AI ajanlarının önemli güvenlik problemlerinden biri credential yönetimi.
Bir ajanın GitHub, Slack, şirket veritabanı veya başka bir API ile çalışması gerekiyorsa genellikle bir token veya API anahtarına ihtiyacı bulunuyor.
Ancak anahtarı doğrudan agent context’ine koymak ciddi risk oluşturuyor.
Prompt injection veya başka bir saldırı sonucunda ajan bu anahtarı istemeden dışarı sızdırabilir.
OpenShell’de gerçek kimlik bilgileri ajan workload’unun dışında tutulabiliyor. Ajan bir servise erişmek istediğinde yetkilendirme kontrollü biçimde yapılıyor, fakat gerçek credential’ın kendisi ajan tarafından görülmek zorunda değil.
Bu yaklaşım klasik cloud security’deki managed identity sistemlerine oldukça benziyor.
İkinci savunma hattı: NVIDIA Sentry
OpenShell yazılım katmanını oluşturuyor.
Ancak NVIDIA bununla yetinmemiş.
Open Agent Safety Platform’un ikinci temel bileşeni NVIDIA Sentry.
Sentry’nin en önemli özelliği, ajanla aynı sistem içerisinde çalışan sıradan bir güvenlik yazılımı olmaması.
Sentry, NVIDIA’nın BlueField-4 DPU donanımı üzerinde çalışan bağımsız bir gözetim katmanı olarak tasarlanmış.
Bu yaklaşım siber güvenlikte out-of-band monitoring olarak adlandırılıyor.
Başka bir ifadeyle polisi şüphelinin bulunduğu odanın içine koymak yerine, dışarıdaki kontrol odasına koyuyorsunuz.
Ajanın çalıştığı CPU veya işletim sistemi problem yaşasa bile ayrı BlueField donanımı sistemi izlemeye devam edebiliyor.
Donanım seviyesinde “AI watchdog”
NVIDIA Sentry’yi bir tür watchdog, yani bağımsız gözetmen olarak tanımlıyor.
BlueField-4 üzerinde çalışan Sentry;
-
ajan aktivitelerini,
-
güvenlik politikası kararlarını,
-
network trafiğini,
-
araç erişimlerini
izleyerek bunları ilişkilendirebiliyor.
Eğer ajan kendisine izin verilen sınırların dışına çıkmaya çalışırsa Sentry sistemi milisaniyeler içerisinde karantinaya alabiliyor.
Buradaki mimari ayrım son derece önemli.
Bir güvenlik mekanizması yalnızca yazılım içerisinde çalışıyorsa yeterince gelişmiş bir saldırgan veya hatalı çalışan ajan teorik olarak bu sistemi etkisiz hale getirebilir.
Fakat kontrol katmanı farklı bir işlemcide çalışıyorsa saldırı yüzeyi önemli ölçüde değişiyor.
Bu nedenle NVIDIA’nın yaklaşımı klasik endpoint security’den çok veri merkezlerindeki hardware root of trust ve network isolation sistemlerine benziyor.
Vera CPU + BlueField-4: NVIDIA’nın güvenli ajan mimarisi
Platform NVIDIA’nın yeni nesil altyapısıyla birlikte düşünüldüğünde mimari daha net hale geliyor.
Şirketin referans tasarımında:
NVIDIA Vera CPU üzerinde AI agent ve OpenShell çalışıyor.
Bunun dışında ise BlueField-4 DPU üzerinde NVIDIA Sentry bulunuyor.
BlueField, sistemin modele giden iletişim yolunu gözlemleyebilecek bir noktada konumlandırılıyor.
NVIDIA’nın Vera Rubin POD mimarisinde BlueField-4 DPU’nun modele erişim yolunda bulunması sayesinde, ajanın modelle ve dış servislerle gerçekleştirdiği işlemler donanım seviyesinde gözlemlenebiliyor ve gerektiğinde sınırlandırılabiliyor.
Kabaca mimari şöyle düşünülebilir:
AI Agent
↓
OpenShell Sandbox
↓
OpenShell Supervisor
↓
Güvenlik Politikaları
↓
Vera CPU
↓
BlueField-4 / NVIDIA Sentry
↓
Network – Model – API – Veri – Araçlar
Buradaki amaç tek bir güvenlik katmanına güvenmek değil.
Bir katman başarısız olduğunda diğerinin devreye girmesi.
Yani klasik siber güvenliğin defense in depth – katmanlı savunma prensibi AI ajanlarına uygulanıyor.
“AI’ın iyi davranmasını bekleme”
NVIDIA’nın yaklaşımının felsefi olarak en dikkat çekici tarafı burada ortaya çıkıyor.
Open Agent Safety Platform aslında AI alignment sorununu çözmeye çalışmıyor.
Modelin neden yanlış bir karar verdiğini veya gerçekten insan değerlerini anlayıp anlamadığını çözmek yerine şöyle diyor:
Model hata yapabilir.
Model kandırılabilir.
Model beklenmedik davranabilir.
O halde ona sınırsız yetki vermemeliyiz.
NVIDIA’nın OpenShell sayfasındaki güvenlik yaklaşımı bunu oldukça net ortaya koyuyor: güvenlik modelin içerisinde değil, çevresinde bulunuyor ve güvenlik mekanizması ajan tarafından bypass edilemeyecek şekilde dışarıdan uygulanıyor.
Bu yaklaşım aslında bilgisayar güvenliği açısından oldukça tanıdık.
Bir web tarayıcısındaki sekmenin güvenli davranacağına güvenmeyiz.
Onu sandbox’a koyarız.
Bir uygulamanın bütün işletim sistemine erişmesine güvenmeyiz.
Permissions kullanırız.
Bir kullanıcının ağdaki bütün sunuculara erişmesine izin vermeyiz.
Access control uygularız.
NVIDIA şimdi aynı prensiplerin AI ajanlarında uygulanması gerektiğini savunuyor.
NVIDIA’nın internet tarayıcısı benzetmesi
NVIDIA mühendisleri Open Agent Safety Platform’u anlatırken 1990’ların internetiyle ilginç bir karşılaştırma yapıyor.
İnternetin ilk dönemlerinde web sayfalarının kullanıcı bilgisayarında çalıştırdığı kod önemli bir güvenlik problemiydi.
Zaman içerisinde tarayıcılar siteleri ve sekmeleri birbirinden ayıran sandbox sistemleri geliştirdi.
Böylece kötü niyetli veya bozuk bir web sayfasının bütün bilgisayarı ele geçirmesi çok daha zor hale geldi.
NVIDIA’ya göre AI ajanları şu anda internetin o erken dönemine benzer bir noktada.
Muazzam potansiyelleri var fakat güvenli şekilde sınırlandırılabilecek standart altyapı henüz yeni oluşuyor.
Şirket OpenShell’i bir anlamda AI ajanlarının browser sandbox’ı haline getirmek istiyor.
Model bağımsız olması kritik
Platformun dikkat çekici bir başka özelliği belirli bir LLM’e bağlı olmaması.
OpenShell’in çalışma mantığı modele değil, modelin çalıştığı ortama müdahale ediyor.
Dolayısıyla teorik olarak sistem;
OpenAI,
Anthropic,
Google,
Meta,
NVIDIA,
veya açık kaynaklı modeller
ile çalışan agent framework’leri için kullanılabilir.
Aynı şekilde NVIDIA OpenShell’i Vera CPU için optimize etmiş olsa da yazılımın açık kaynak olması nedeniyle Arm ve Intel tabanlı sistemlere de uyarlanabileceğini belirtiyor.
Bu NVIDIA açısından stratejik olarak önemli.
Şirket aslında yalnızca yeni bir güvenlik ürünü çıkarmıyor; gelecekte AI ajanlarının çalıştırıldığı altyapı için bir güvenlik katmanı standardı oluşturmaya çalışıyor.
Robotlar için de aynı sorun geçerli
Open Agent Safety Platform’un önemli fakat gözden kaçabilecek taraflarından biri platformun yalnızca yazılım ajanlarını hedeflememesi.
NVIDIA duyurusunda sistemin;
yazılım,
compute altyapısı,
hardware
ve robotics
katmanlarını kapsayacak şekilde tasarlandığını belirtiyor.
Bu oldukça önemli.
Bir yazılım ajanının yanlış API çağrısı yapması veri kaybına yol açabilir.
Fakat fiziksel dünyada çalışan bir robotun yanlış karar vermesinin sonucu doğrudan fiziksel zarar olabilir.
Agentic AI’nin robotik sistemlere girmesiyle birlikte “AI safety” kavramı böylece yalnızca içerik moderasyonu veya yanlış cevap tartışmasının çok ötesine geçiyor.
NVIDIA yalnız hareket etmiyor
Platformun duyurusundaki şirket listesi de projenin ölçeğini gösteriyor.
NVIDIA’nın açıkladığı ekosistemde aralarında
Anthropic,
Cisco,
CrowdStrike,
Dell Technologies,
HPE,
Hugging Face,
JPMorgan Chase,
Microsoft,
Palantir,
Palo Alto Networks,
Perplexity,
Red Hat,
Salesforce,
SAP,
Scale AI,
ServiceNow
ve SpaceXAI
gibi kuruluşlar bulunuyor.
NVIDIA ayrıca Open Agent Safety Platform’un açık ve genişletilebilir olmasını özellikle vurguluyor.
Amaç yalnızca NVIDIA ürünlerini kullanan şirketler için güvenlik sağlamak değil, endüstrinin ortak güvenlik politikaları ve değerlendirme yöntemleri geliştirebileceği bir altyapı oluşturmak.
Bu sistem gerçekten “kontrolden çıkan AI” sorununu çözer mi?
Burada önemli bir ayrım yapmak gerekiyor.
Open Agent Safety Platform oldukça güçlü bir containment, yani çevreleme sistemi olabilir.
Ama bütün AI safety problemlerini çözmüyor.
Bir modelin yanlış bilgi üretmesini engellemez.
Bir modelin aldatıcı davranış geliştirmesini tek başına çözmez.
Modelin hedefinin yanlış tanımlanmasını önlemez.
Ve en önemlisi güvenlik politikalarını yine insanların doğru biçimde yazması gerekir.
Associated Press’in görüştüğü güvenlik uzmanlarının da dikkat çektiği noktalardan biri bu: gerçek hayattaki en zor problemlerin başında güvenlik ile kullanılabilirlik arasındaki denge geliyor. Bir ajana çok az yetki verilirse işini yapamaz; fazla yetki verilirse güvenlik riski oluşur.
Dolayısıyla NVIDIA’nın sistemi “AI artık güvenli” anlamına gelmiyor.
Daha doğru ifade şu olabilir:
AI hata yaptığında verebileceği zararın çapını sınırlandırmaya çalışan bir altyapı ortaya çıkıyor.
Asıl devrim modelde değil, işletim sisteminde olabilir
Yapay zekâ sektöründe yarış uzun süre model üzerinden yürüdü.
Kim daha büyük model eğitecek?
Kim daha iyi benchmark sonucu elde edecek?
Kim daha uzun context sunacak?
Agentic AI döneminde ise başka bir rekabet alanı ortaya çıkıyor:
Bu modeller güvenli şekilde nasıl çalıştırılacak?
Gelecekte AI ajanları milyonlarca şirket bilgisayarında, veri merkezinde ve robotik sistemde çalışacaksa her ajanın kendi güvenlik modeline sahip olması sürdürülebilir olmayabilir.
İşletim sistemlerinin uygulamalara izin sistemi uygulaması gibi, AI altyapısının da ajanlara standartlaştırılmış izin sistemleri uygulaması gerekebilir.
NVIDIA’nın Open Agent Safety Platform’u bu ihtiyacın erken örneklerinden biri.
Bu açıdan bakıldığında OpenShell’i yalnızca bir sandbox yazılımı olarak görmek eksik kalıyor.
NVIDIA aslında AI ajanları için yeni bir güvenlik ve yetkilendirme katmanı oluşturmaya çalışıyor.
Ve bu katmanı CPU’dan DPU’ya, network’ten modele kadar indiriyor.
Sonuç: AI’a güvenmek yerine AI’ı sınırlandırmak
Open Agent Safety Platform’un getirdiği en önemli fikir belki de teknolojinin kendisinden daha basit:
Güvenli AI oluşturmanın tek yolu AI’ın daima doğru karar vermesini sağlamak olmayabilir.
Bunun yerine sistem, AI’ın hata yapacağını baştan kabul edip yapabileceklerini teknik olarak sınırlandırabilir.
OpenShell bunun yazılım tarafını gerçekleştiriyor.
Sentry ise bağımsız donanım gözetimiyle ikinci bir güvenlik hattı oluşturuyor.
Böylece AI ajanı için ortaya çıkan model şu oluyor:
Düşünmekte özgür olabilirsin; fakat sistemde ne yapabileceğin ayrıca tanımlanır.
Bu aslında klasik bilgisayar güvenliğinin onlarca yıldır kullandığı prensiplerin, artık AI ajanlarına uyarlanması.
Eğer agentic AI gerçekten önümüzdeki dönemin temel bilgisayar kullanım biçimlerinden biri olacaksa NVIDIA’nın Open Agent Safety Platform’u yalnızca yeni bir NVIDIA ürünü değil, geleceğin AI işletim modeline dair önemli bir işaret olabilir.
Çünkü AI dünyasında asıl soru yavaş yavaş
“Model ne kadar zeki?”
sorusundan,
“Bu kadar zeki bir modele ne kadar yetki vermeliyiz?”
sorusuna dönüşüyor.