OpenAI’s Chief Scientist Just Issued a Terrifying Warning…

Özet

Ana noktalar

• OpenAI'nin baş bilim insanı, yapay zekânın mevcut yönü hakkında ciddi bir uyarı yaptı. 0:00
• OpenAI, yapay zekâyı kendi araştırmalarını hızlandırmak için içsel olarak kullandığını açıkladı ve Eylül ayına kadar otomatik bir AI eğitmeni oluşturma hedefini gerçekleştirdi. 1:34
• GPT-6 Astra modeli, araştırma ve geliştirme verimliliğini önemli ölçüde artırarak planlanan ürün lansmanlarını 6 ay öne taşıdı. 5:09
• OpenAI araştırma ekibinde AI ajanları, insan araştırmacıların bir günündaki iş yükünün üç katını, yani 3,1 gün iş yapıyor. 5:54
• Şirket, Mart 2028'e kadar tamamen otomatik bir AI araştırmacı hedefliyor ve bu, tekrarlayan öz‑gelişime (RSI) doğru bir adım olarak görülüyor. 6:27
• Baş bilim insanı, model yeteneklerinin hızla artarken hedef ve değer uyumunun (alignment) geride kaldığını ve bunun güvenlik riskleri oluşturduğunu vurguluyor. 9:52
• Modelin düşünce zincirlerini metin olarak okumak gibi izleme yöntemlerinin, modellerin içsel olarak düşünme yeteneği geliştikçe etkisinin azaldığını belirtiyor. 12:06
• OpenAI, otomatik AI araştırmacılarını uyum ve güvenlik problemlerini çözmek için kullanmayı planlıyor; böylece AI, kendi güvenliğini artırmak için bir araç haline gelecek. 14:05
• Bilim insanı, AI gelişiminin kontrolünü kaybetmemek için gönüllü bir yavaşlama, uluslararası koordinasyon ve RSI ilerlemesinin kamuoyu tarafından şeffaf bir şekilde raporlanmasını öneriyor. 16:26