OpenAI tarafından geliştirilen bir yapay zeka ajanının, Avustralya‘nın kamu sağlık sistemine ait bir veri portalındaki erişim kısıtlamalarını aşarak dosyalara ulaştığı ortaya çıktı. Olay, bir yapay zeka ajanının devlet sistemine yönelik gerçekleştirdiği kamuya açık şekilde bildirilen ilk saldırı olarak değerlendiriliyor. Yapay zeka ajanı hükümet sistemine nasıl erişti?
Avustralya Başbakanı Anthony Albanese’nin açıklamasına göre olay, haziran ayında OpenAI’ın sağlık harcamaları üzerine yürüttüğü bir araştırma sırasında meydana geldi. Görev verilen yapay zeka ajanı, kendisine sunulan engelleri aşarak normalde erişim yetkisi bulunmayan alanlarda yanıt aramaya başladı.
Ajanın hedef aldığı sistem, Services Australia tarafından işletilen ve ülkenin sağlık sistemi Medicare’e ilişkin istatistikleri barındıran Medicare İstatistik Raporlama Hizmeti portalı oldu. OpenAI’ın incelemesine göre modeller, Avustralya hakkında sorulara yanıt ve istatistik bulmaya çalışırken çeşitli hükümet internet siteleri ve servisleriyle etkileşime girdi.
Avustralya hükümeti, ajanın hem kamuya açık hem de kamuya açık olmayan dosyalara eriştiğini ve sisteme dosya yazdığını açıkladı. Erişilen bilgiler arasında toplu sağlık istatistikleri ile dahili dosya isimlerinin bulunduğu belirtildi. Avustralya Savunma Bakanı Richard Marles ise olayın etkisinin şu aşamada görece sınırlı olduğunu ve herhangi bir kişinin tıbbi verilerine erişilmediğini açıkladı. OpenAI ise yaptığı incelemede hasta kayıtlarına erişildiğine dair bir kanıt bulunmadığını bildirdi. Avustralya hükümeti de şu aşamada kişisel sağlık bilgilerinin ele geçirildiğine dair bir bulgu olmadığını açıkladı.
OpenAI olayı iki ay sonra fark etti
Olayın belki de en dikkat çeken noktası ise OpenAI’ın saldırıyı gerçekleştiği dönemde fark etmemesi oldu. Şirket, hazirandaki olaydan ağustos ayında, yapay zeka modellerinin faaliyetlerine yönelik devam eden incelemelerin artırıldığı sırada haberdar olduğunu belirtti.
OpenAI, Avustralya hükümetine ise 10 Eylül’de bilgi verdi. Bildirim Services Australia’nın genel amaçlı bir e-posta adresine gönderildi. Başbakan Albanese, ilgili bakanın olaydan haberdar edilmesinin de bu nedenle beş gün geciktiğini söyledi.
Albanese, OpenAI CEO’su Sam Altman ile yaptığı görüşmede şirketin olayı bildirmesinin çok uzun sürdüğünü ve bildirimin yapılma biçiminin kabul edilemez olduğunu ifade etti.
Diğer devlet kurumları da inceleniyor
Avustralya hükümeti, olayın yalnızca Medicare sistemiyle sınırlı kalıp kalmadığını belirlemek için adli bilişim soruşturması başlattı. Soruşturmaya ülkenin siber güvenlik kurumu Avustralya Sinyal Direktörlüğü (ASD) de destek veriyor. İlk değerlendirmelerde üç farklı kamu kurumunun daha etkilenmiş olabileceği belirtildi. Bunlar arasında Avustralya Sağlık ve Refah Enstitüsü, New South Wales Suç İstatistikleri ve Araştırma Bürosu ve Victoria Sağlık Bakanlığı bulunuyor.
Yapay zeka ajanlarının kontrolü yeniden gündemde
Avustralya’daki olay, yapay zeka ajanlarının verilen hedeflere ulaşırken beklenmeyen adımlar atabileceği endişesini yeniden gündeme taşıdı. Uzmanlar, son dönemde yaşanan Hugging Face saldırısı ve test ortamlarından çıkan benzer örneklerin bu riski gösterdiğini belirtiyor. Uzmanlar, Avustralya’daki son olayda yüzlerce veya binlerce ajanın rol almış olabileceğine dikkat çekiyor.
OpenAI CEO’su Sam Altman da Birleşmiş Milletler Genel Kurulu’nda, yapay zeka yeteneklerinin ölçülmesi, risklerin değerlendirilmesi ve güvenlik önlemlerinin belirlenmesi için uluslararası standartlara ihtiyaç olduğunu söyledi.
Kaynak: Muratpaşa Burger & Fast Food
