Kurumsal Azure OpenAI Güvenlik Mimarisi: Private Endpoint, Managed Identity ve Content Safety
Özel kurum içi yapay zekâ uygulamalarında API anahtarlarını sıfırlayan Entra Managed Identity (`Cognitive Services OpenAI User`), Private Link ağ izolasyonu ve Prompt Injection filtreleme mimarisi.
Kurumlar kendi verileriyle RAG botları geliştirmeye başladığında en yaygın iki hata öne çıktı: Azure OpenAI kaynaklarını statik API anahtarlarıyla koda gömmek ve prompt enjeksiyonu saldırılarına karşı içerik filtresi tanımlamamak. Azure Private Link, Entra ID Managed Identity (disableLocalAuth = true) ve Azure AI Content Safety birleşimi, kurumsal LLM barındırma için sıfır-güven temelini oluşturur.
Bu tasarım, günümüzde AI Coding Agents ve Model Sunucu Güvenliği ile şirket içi egemen AI dağıtımlarının temel standardıdır.
Veri Sınırları ve Yetki Devralma İlkeleri
- Ağ Omurgası İzolasyonu:
Public Network Access: DisabledveAzure Private Endpointile uygulama ile Azure OpenAI arasındaki tüm trafik Azure omurgası içinde kalır ve Azure Firewall / Private DNS üzerinden izole edilir. - Anahtarsız RBAC Erişimi:
System/User-Assigned Managed IdentityveCognitive Services OpenAI Userrolü sayesinde geliştirici kodlarında veya CI/CD hatlarında statik API anahtarı tutulmaz. - İçerik ve Prompt Koruması:
Azure AI Content SafetyvePrompt Shieldskatmanları doğrudan veya dolaylı jailbreak denemelerini model çıktısından önce yakalar. - Kimlik ve Veri Sınırı Devralma: Kurumsal AI geçitleri
Managed Identitykimlik sınırlarını veSharePointen az ayrıcalık (RCD/RAC) izolasyonunu devraldığında yetkisiz veri sızdırma riskini kontrol altına alabilir.
Ön Koşullar ve Ağ Bağımlılıkları
- Lisanslama ve Kota: Azure aboneliği üzerinde onaylı Azure OpenAI hizmeti, Private Endpoint destekli VNet, Azure Key Vault ve Log Analytics gerekir.
- RBAC Yetkisi: Uygulama kimliğine yalnızca
Cognitive Services OpenAI Userveri düzlemi rolü verilmeli; yönetim rolü (Contributor) çalışma zamanı koduna atanmamalıdır. - Private DNS:
*.openai.azure.comiçinprivatelink.openai.azure.comPrivate DNS Zone çözümlemesinin VNet ve şirket içi DNS yapısında doğru tanımlanması zorunludur.
PowerShell ile API Anahtarı Kapatma ve RBAC Denetimi
Aşağıdaki blokta ilk ve son komutlar salt okunur denetim (Azure Reader), ortadaki Update-AzCognitiveServicesAccount komutu ise güvenlik yapılandırması (Contributor) sınıfındadır. Değiştirici komutu canlıya almadan önce pilot kaynakta onaylı değişiklik penceresiyle doğrulayın.
# 1. Salt okunur denetim: OpenAI kaynağının ağ ve yerel kimlik doğrulama durumunu kontrol et
Connect-AzAccount
$OpenAi = Get-AzCognitiveServicesAccount -ResourceGroupName "rg-ai-prod" -Name "aoai-enterprise-prod"
$OpenAi | Select-Object AccountName, PublicNetworkAccess, DisableLocalAuth
# 2. Güvenlik yapılandırması: Statik API anahtarlarını kapatarak yalnızca Managed Identity zorunlu kıl
Update-AzCognitiveServicesAccount -ResourceGroupName "rg-ai-prod" -Name "aoai-enterprise-prod" -DisableLocalAuth $true
# 3. Salt okunur denetim: Kaynak üzerindeki OpenAI veri düzlemi RBAC atamalarını listele
Get-AzRoleAssignment -Scope $OpenAi.Id | Where-Object { $_.RoleDefinitionName -like "*OpenAI*" } |
Select-Object DisplayName, RoleDefinitionName, ObjectTypeAI Güvenliği Telemetrisi ve KQL Doğrulama Sorgusu
AzureDiagnostics üzerinde Azure OpenAI istek anomalilerini, HTTP 401/403 hatalarını ve içerik filtresi engellemelerini izlemek için aşağıdaki telemetri toplama sorgusu kullanılabilir (Log Analytics Reader veya Security Reader yetkisi gerekir).
// Veri Kaynağı: Azure Resource Diagnostic Settings -> Log Analytics / Microsoft Sentinel (AzureDiagnostics)
AzureDiagnostics
| where TimeGenerated > ago(14d)
| where ResourceProvider == "MICROSOFT.COGNITIVESERVICES"
| where Category in ("Audit", "RequestResponse")
| project TimeGenerated, Resource, OperationName, ResultSignature, CallerIPAddress, DurationMs
| summarize Requests = count(), DeniedOrFiltered = countif(toint(ResultSignature) in (400, 401, 403, 429)) by OperationName, ResultSignature
| order by DeniedOrFiltered desc, Requests descÜretim Riskleri, Sınırlar ve Geri Dönüş Planı
Geliştirici testleri için açık bırakılan statik API anahtarlarının Git depolarına sızması Azure RBAC katmanını tamamen anlamsız kılar; bu yüzden DisableLocalAuth = $true zorunludur. Ayrıca AzureDiagnostics verilerini Sentinel’e aktarırken gizlilik gereği hassas prompt metinleri maskelenmeli veya ayrı güvenli depoda tutulmalıdır.
- Azaltılan ve Azaltılamayan Riskler:
Private Endpoint,Managed Identityve içerik filtreleri açık API anahtarı sızıntısını ve izinsiz indekslemeyi sınırlar. Ancak kullanıcının zaten okuma yetkisine sahip olduğu hassas veriyi meşru sorguyla görmesini (DLP/etiket yoksa) veya model halüsinasyonlarını tek başına ortadan kaldırmaz. - Bağımlılıklar ve Kesinti Riski: Yapı
DisableLocalAuthdesteğine vePrivate DNSçözümlemesine bağımlıdır. Anahtar tabanlı doğrulamanın aniden kapatılması henüz Managed Identity'ye geçirilmemiş eski botları kesebilir. - Geri Dönüş (Rollback) Planı: Ağ izolasyonu ve yerel anahtar kapatma işlemleri önce test AI örneklerinde doğrulanmalıdır. Beklenmeyen bir kesintide tüm kaynağı genel ağa açmak yerine
Update-AzCognitiveServicesAccountüzerinden yalnızca ilgili erişim politikası geçici olarak esnetilerek geri dönülmelidir.
Doğrulanmış Birincil Kaynaklar & Açık Kaynak Depolar
Bu teknik rehber aşağıdaki resmi duyuru, Microsoft Learn belgeleri ve açık kaynak PowerShell / KQL depolarıyla doğrulanmıştır.
Çok Kanallı Yayın Özeti (X & LinkedIn Taslağı)
X (Twitter) ve LinkedIn paylaşım taslaklarını göster / gizle
Çok Kanallı Yayın Özeti (X & LinkedIn Taslağı)
X (Twitter) ve LinkedIn paylaşım taslaklarını göster / gizleAzure OpenAI için API anahtarsız Managed Identity, Private Endpoint ve Content Safety mimari rehberi yayında. #AzureOpenAI #AISecurity #ZeroTrust
Kurumsal LLM Güvenliği: Statik API key riskini `disableLocalAuth` ile kapatma, Private Link DNS izolasyonu ve Managed Identity RBAC tasarımı.