Openai CEO’su Sam Altman ve Superior Micro Cihazları CEO’su Lisa SU, Senato Ticaret, Bilim ve Ulaştırma Komitesi Duruşması sırasında “AI Yarışı Kazanmak: ABD Hesaplama ve İnovasyonda ABD Yeteneklerini Güçlendirme” başlıklı HART Binasında 8 Mayıs 2025.
Tom Williams | CQ-Roll Name, Inc. | Getty Photographs
Süpürürken röportaj Geçen hafta, Openai CEO’su Sam Altman, şirketi ve popüler ChatGPT AI modeli ile ilgili çok sayıda ahlaki ve etik soruyu ele aldı.
“Bak, geceleri o kadar iyi uyumam. Çok fazla kilo hissettiğim çok şey var, ama muhtemelen her gün yüz milyonlarca insanın modelimizle konuşmasından başka bir şey yok,” dedi Altman eski Fox Information sunucusu Tucker Carlson’a neredeyse bir saatlik röportajda.
“Aslında büyük ahlaki kararları yanlış yapmaktan endişe etmiyorum,” dedi Altman, “belki de bunları yanlış anlayacağımızı” itiraf etti.
Aksine, sonuçta büyük yansımalara sahip olabilecek mannequin davranışları üzerindeki “çok küçük kararlar” üzerinde en fazla uykuyu kaybettiğini söyledi.
Bu kararlar, ChatGPT’yi bilgilendiren etik etrafında toplanma eğilimindedir ve chatbot’un hangi soruları yapıp cevap vermez. İşte Altman’ı geceleri uyanık tutuyor gibi görünen bu ahlaki ve etik ikilemlerin bir taslağı.
Chatgpt intiharı nasıl ele alıyor?
Altman’a göre, şirketin son zamanlarda en zor sorun, chatgpt’in bir dava ışığında intihara nasıl yaklaştığıdır. Chatbot’u genç oğullarının intiharı için suçlayan bir aile.
CEO, her hafta intihar eden binlerce kişiden birçoğunun olabileceğini söyledi. Başlangıçta Chatgpt ile konuşmak.
“Muhtemelen konuştular [suicide]ve muhtemelen hayatlarını kurtarmadık, “dedi Altman samimi bir şekilde.” Belki daha iyi bir şey söyleyebilirdik. Belki daha proaktif olabilirdik. Belki biraz daha iyi tavsiye verebilirdik, hey, bu yardımı almanız gerekir. ”
Geçen ay, Adam Raine’in ebeveynleri, oğulları 16 yaşında intiharla öldükten sonra Openai’ye karşı bir ürün yükümlülüğü ve yanlış ölüm davası açtı. Dava içinde aile, “Chatgpt’in” Adam’ın intihar yöntemlerini keşfetmesine yardımcı olduğunu “söyledi.
Kısa bir süre sonra, Blog yazısı “İnsanlara en çok ihtiyaç duyduklarında yardım etmek” başlıklı Openai, “hassas durumları” ele alırken Chatgpt’in eksikliklerini ele almayı planladı ve en savunmasız insanları korumak için teknolojisini geliştirmeye devam edeceğini söyledi.
Chatgpt’in etiği nasıl belirlenir?
Oturma röportajında ortaya çıkan bir diğer büyük konu, Chatgpt ve komiserlerini bilgilendiren etik ve ahlaktı.
Altman, ChatGPT’nin temel modelini kolektif deneyim, bilgi ve öğrenme konusunda eğitilmiş olarak tanımlarken, Openai’nin daha sonra chatbot’un belirli davranışlarını hizalaması ve hangi sorulara cevap vermeyeceğine karar vermesi gerektiğini söyledi.
“Bu gerçekten zor bir sorun. Şimdi çok fazla kullanıcımız var ve çok farklı yaşam perspektiflerinden geliyorlar … ama genel olarak, modelin ahlaki bir çerçeve öğrenme ve uygulama yeteneğinden hoş bir sürpriz oldum.”
Belirli mannequin spesifikasyonlarının nasıl karar verildiğine basıldığında Altman, şirketin “yüzlerce ahlaki filozof ve teknoloji ve sistem etiği hakkında düşünen insanlara” danıştığını söyledi.
Yapılan bir mannequin spesifikasyonunun verdiği bir örnek, chatgpt’in kullanıcılar tarafından istenirse biyolojik silahların nasıl yapılacağı hakkındaki soruları cevaplamaktan kaçınmasıdır.
“Toplumun kullanıcı özgürlüğü ile önemli bir gerginlik içinde olan bir ilgiye sahip olduğuna dair açık örnekler var,” dedi Altman, şirketi “her şeyi doğru almayacak ve aynı zamanda dünyanın girdisine ihtiyaç duymayacak” ekledi.
Chatgpt nasıl özel?
Bir başka büyük tartışma konusu, chatbot’larla ilgili kullanıcı gizliliği kavramıydı ve Carlson, üretken AI’nın “totaliter kontrol” için kullanılabileceğini savunuyordu.
Yanıt olarak Altman, Washington’da ittiği bir politika parçasının “AI ayrıcalığı” olduğunu söyledi, bu da bir kullanıcının bir sohbet botuna söylediği bir şeyin tamamen gizli olması gerektiği fikrini ifade ediyor.
Diyerek şöyle devam etti: “Bir doktorla sağlığınız veya bir avukat hakkında yasal sorunlarınız hakkında konuştuğunuzda, hükümet bu bilgileri alamaz, değil mi? … Sanırım AI için aynı kavrama sahip olmalıyız.”
Altman’a göre, kullanıcıların diğer şeylerin yanı sıra tıbbi geçmişleri ve yasal sorunları hakkında AI Chatbots’a danışmasına izin verecektir. Şu anda, ABD’li yetkililer şirkete kullanıcı verileri için mahkemeleyebileceğini de sözlerine ekledi.
“Sanırım hükümeti bunun önemini anlamasını sağlayabileceğimiz için iyimser hissediyorum” dedi.
Chatgpt askeri operasyonlarda kullanılacak mı?
Carlson tarafından Chatgpt’in ordu tarafından insanlara zarar vermek için kullanılıp kullanılmayacağını sordu, Altman doğrudan bir cevap vermedi.
“Ordudaki insanların bugün chatgpt kullanma şeklini bilmiyorum … ama orduda Chatgpt ile tavsiye için konuşan birçok insan olduğundan şüpheleniyorum.”
Daha sonra, “tam olarak nasıl hissedileceğinden” emin olmadığını da sözlerine ekledi.
Openai, AI şirketlerinden biriydi. ABD Savunma Bakanlığı’ndan ABD ordusu için çalışmaya yönelik üretken yapay zeka koymak için 200 milyon dolarlık bir sözleşme aldı. Firma bir blog gönderisinde dedi ABD hükümetinin ulusal güvenlik, destek ve ürün yol haritası bilgileri için özel AI modellerine erişimini sağlayacağını.
Openai ne kadar güçlü?
Carlson, röportajında, mevcut yörüngesinde, üretken AI ve uzantısı Sam Altman’ın Chatgpt’e “din” diyecek kadar fazla güç toplayabileceğini tahmin etti.
Yanıt olarak Altman, üretken AI’dan kaynaklanabilecek güç konsantrasyonu hakkında çok endişelendiğini söyledi, ancak şimdi AI’nın tüm insanların “büyük bir seviyelendirme” ile sonuçlanacağına inanıyor.
“Şu anda olan şey, tonlarca insan chatgpt ve diğer chatbotları kullanıyor ve hepsi daha yetenekli. Hepsi daha fazlasını yapıyorlar. Hepsi daha fazlasını başarabiliyor, yeni işler kurabiliyor, yeni bilgi bulabiliyor ve bu oldukça iyi hissettiriyor.”
Ancak CEO, AI’nın bugün var olan birçok işi, özellikle kısa vadede ortadan kaldıracağını düşündüğünü söyledi.
