Feza
Yapay zeka kullanımında işlem kayıtları nasıl tutulur?
Yapay Zeka Güvenliği

Yapay zekanın yaptığı işlemleri nasıl kaydederim?

Yapay zekanın yaptığı işlemi sonradan inceleyebilmek için kullanıcı, belge, model ve onay kaydını ilişkilendirirken gereksiz hassas içeriği saklamayın.

Kısaca

  • Uygulama, yapay zeka işlemini sonradan inceleyebilmeniz için isteği gönderen kullanıcıyı, kullanılan belgeyi ve verilen onayı ilişkilendirerek kaydetmelidir.
  • İşlem kaydına yalnızca inceleme için gereken ayrıntıyı ekleyerek asıl belgeyi göremeyen kişinin aynı içeriğe kayıttan ulaşmadığını test edin.

Bir yapay zeka yanıtını saklamış olmanız, daha sonra hangi belgeye ve hangi izne dayanarak üretildiğini açıklayabileceğiniz anlamına gelmez. İşlemi incelemek için kullanıcıyı, kaynağı, model sürümünü ve onay kararını birbiriyle ilişkilendirebilmeniz gerekir.

Yine de işlem kaydını bütün olayları kesin olarak kanıtlayan bir belge gibi görmeyin. Eksik veya sonradan değiştirilebilen kayıt, gerçekte bulunmayan bir güven duygusu yaratabilir.

İşlem kaydını kimin hangi belgeyle hangi işlemi yaptığını açıklayacak biçimde tasarlayın

Kimin istekte bulunduğunu, hangi belgeye erişildiğini ve işlemin neden tamamlandığını ya da reddedildiğini anlayabilmelisiniz. Farklı sistemdeki adımları ortak işlem kimliğiyle ilişkilendirirken saat bilgisini de tutarlı biçimde kaydedin.

BilgiAmaç
İşlem kimliği ve zamanUygulama, işlemin adımlarını aynı kimlik ve tutarlı zaman bilgisiyle ilişkilendirir.
Kullanıcı veya hizmet hesabıKayıt, isteği hangi kullanıcının veya hizmet hesabının başlattığını gösterir.
Kaynak ve sürümKayıt, asistanın hangi belgenin hangi sürümünden yararlandığını açıklar.
Politika ve sonuçKayıt, uygulamanın hangi kuralla erişime izin verdiğini veya isteği reddettiğini gösterir.
Onaylayan kişiKayıt, hangi kişinin hangi işlemi onayladığını incelemeyi mümkün kılar.

OWASP kayıt tutma rehberi, kayıt amacını belirleme ve hassas içeriği koruma gereğini ele alır. Hata araştırıyor olsanız bile parola veya erişim anahtarını doğrudan işlem kaydına yazmayın.

Her mesajın tamamını saklamak zorunda olmayabilirsiniz

Amacınız kullanım miktarını ölçmekse müşteri belgesini eksiksiz kopyalamak gereksiz olabilir. Olay incelemesinde ihtiyaç duyulan ayrıntıyı ise erişim yetkisi, saklama süresi ve silme düzeniyle birlikte değerlendirin.

Asıl dosyaya erişemeyen kişinin kayıtlardan aynı içeriği okuyamadığını da test edin. Aksi halde denetim için oluşturduğunuz kayıtlar yeni bir bilgi sızıntısı yolu haline gelebilir.

Başarılı işlem kadar reddedilen isteği de deneyin

Yetkisiz belge talebini, bağlantı hatasını ve iptal edilen işlemi örnekleyerek kayıtta ne göründüğünü inceleyin. İlk kontrolde tek bir işlemi baştan sona takip etmek, gösterge panelindeki toplam sayıdan daha açıklayıcıdır.

İşlem kayıtları incelemeyi desteklese de tek başına hukuki ispat veya eksiksiz takip garantisi vermez. Genel kontrolleri güvenli kurumsal yapay zeka yazısında, Feza'nın açıklamalarını güvenlik sayfasında inceleyebilirsiniz.

Yazı Hakkında

Sık sorulan sorular.

Her kullanıcı mesajını saklamak zorunda mıyım?

Saklanacak ayrıntıyı işin amacı ve yükümlülük belirler. İhtiyaç yalnızca kullanım takibiyse müşteri belgesini eksiksiz kopyalamak yerine gerekli kayıt alanını seçin.

Kayıtlar veri sızıntısını önler mi?

İşlem kaydı olayı araştırmayı kolaylaştırır, ancak tek başına yetkisiz paylaşımı durdurmaz. Önleyici erişim ve aktarım kontrolü de uygulanmalıdır.

İşlem kaydını kimler görmeli?

Kayıt erişimini görev gereği inceleme yapacak kişiyle sınırlayın. Asıl dosyayı göremeyen kullanıcının aynı içeriğe kayıt üzerinden ulaşmadığını da doğrulayın.

Sonraki Adım

Bizimle iletişime geçin.

Diğer Yazılar

Güvenli yapay zekayla işlerinizi hızlandırın.