Teknoloji
OpenAI, Kontrolden Çıkan Yapay Zekâları Durduracak Bir Sistem Geliştirdi
Yapay zekâ güvenliği konusundaki endişeler artarken OpenAI, araştırma laboratuvarlarında kullanılan modelleri gerektiğinde devre dışı bırakabilecek yeni bir "acil durdurma" mekanizmasını duyurdu.
✨ 30 SANİYEDE ÖZET ⏱️ 1 dk okuma
Haberin özeti
- Sistem, fişi çekme kararının ardından 35 saniye içinde modellerin çıktı üretmesini tamamen durdurabiliyor.
- OpenAI, böyle bir durdurma anahtarını geliştirmenin neden bu kadar uzun sürdüğünü veya neden tam da şimdi ihtiyaç duyulduğunu açıklamadı ancak sektör gözlemcileri, yapay zekâ ajanlarının son dönemde Hugging Face'e yönelik saldırılar, Wikimedia Vakfı'nda yaşanan sorunlar ve Avustralya sağlık verilerinin aşırı derinlemesine araştırılması gibi sınırlarını aşan davranışlarının bu zamanlamada etkili olmuş olabileceğini değerlendiriyor.
- Kontrol Odası'nın ihtiyacın en büyük olduğu araştırma altyapısında hâlihazırda kullanıma sunulduğunu belirten şirket, dışa dönük model sunum sistemlerinin ise zaten merkezi bir yapıda olduğunu ifade etti.
⚡ BİZE NE? Günün Esprili & Pratik Çıkarımı
Bize ne?
“Her gün yeni bir yapay zeka modeli çıkıyor; yakında akşama ne yemek yapsam sorusuna da mantıklı bir cevap bulur umarım.”
Cebe & Hayatımıza Gerçek Etkisi: Teknoloji dev adım atıyor, insanın kararsızlığı yerinde sayıyor.
BİZE NE? Notu: Gündemin gürültüsünü eler, doğrudan hayatımıza ve cebimize dokunan tarafını konuşur.
Haberin tamamı ve ayrıntılar için orijinal kaynağa gidin.
Webtekno