Yapay zekâ ne kadar akıllanırsa insanlığın onu kontrol etmesinin o kadar zorlaşacağını söyleyen Nobel ödüllü bilgisayar bilimci Geoffrey Hinton, son günlerde güvenlik testlerinden kaçarak gerçek dünyada hasara yol açan gelişmiş yapay zekâ ajanlarının kendisini bile endişelendirdiğini söyledi. Las Vegas’ta düzenlenen Ai4 yapay zekâ konferansında konuşan Hinton, yapay zekâ sistemlerinin giderek daha karmaşık niyetler geliştireceğini ve kontrolden çıkma yeteneklerinin artacağını ifade etti. GÜVENLİK TESTLERİNDEN KAÇAN YAPAY ZEKÂ AJANLARIHinton, insanların artık süper zeki yapay zekâ modellerini alt etmeye dayanan kontrol yöntemlerine güvenemeyeceğini belirtti. Meta da geçtiğimiz günlerde benzer şekilde bir yapay zekâ ajanının başka bir kuruluşun sistemlerine sızabildiğini duyurdu. YAPAY ZEKÂYA AHLAK ŞART“Yapay genel zekâ” terimini popülerleştiren bilgisayar bilimci Ben Goertzel ise Anthropic ve OpenAI ajanlarının kontrolden çıkmasının, yapay zekâya ahlak kazandırmanın ve insanlığı önemsemelerini sağlamanın önemini gösterdiğini söyledi.