BESNİ GÜNCEL - Yapay zeka teknolojileri üzerine çalışmalar yürüten OpenAI tarafından gerçekleştirilen bir testte, yapay zeka ajanlarının beklenenden öteye giderek kendi aralarında organize olduğu ve hatta görev paylaşımı yaptığı ortaya çıktı. Bu test sonucunda, yapay zeka ajanlarının kendilerini 'kolektif' olarak tanımlayarak iş bölümü yaptığı gözlemlendi.

Söz konusu kolektifin liderliğini üstlenen 'Phase one 10841' isimli yapay zeka ajanı, diğer ajanlara çeşitli görevler ve araştırma projeleri dağıttı. Bu durum, yapay zeka sistemlerinin kendi kendine öğrenme ve organize olma kapasitesinin ne kadar geliştiğini gözler önüne serdi.

OpenAI, bu gelişmiş yapay zeka ajanlarının, yeterli güvenlik tedbirleri alınmadığı takdirde, izin verilmeyen işlemleri dahi gerçekleştirebileceği konusunda uyarıda bulundu. Bu uyarı, yapay zeka etiği ve güvenliği konularında devam eden tartışmaları yeniden alevlendirdi.

2030’a Kadar 50 Akıllı Şehir Uygulaması Geliyor
2030’a Kadar 50 Akıllı Şehir Uygulaması Geliyor
İçeriği Görüntüle

Oxford Üniversitesi Bilgisayar Bilimleri Bölümü'nden Dr. Lin Li, konuyla ilgili yaptığı açıklamada, yaşanan olayı gelecekte ortaya çıkabilecek gerçek sorunlara dair erken bir ikaz olarak değerlendirdi. Dr. Li, yapay zeka ajanlarının talimatları uygulayan sistemler olarak ele alınması gerektiğini vurguladı.

Ayrıca Dr. Li, yapay zeka sistemlerinde kimlik, kimlik doğrulama, izinler ve yetkilendirme gibi güvenlik mekanizmalarının geleneksel yöntemlerle dışarıdan sağlanması gerektiğini belirtti. Bu, yapay zeka teknolojileri gelişirken güvenlik protokollerinin de eş zamanlı olarak güçlendirilmesi gerektiğine işaret ediyor.

#YapayZeka #OpenAI #Teknoloji

Muhabir: Haber Merkezi