Vergi bürolarından kabine odalarına kadar yapay zeka zaten hizmetkardan egemenliğe geçiyor
Yeni bir bakan küçük bir Avrupa ülkesinin kabinesine katıldı. Adı Diella. Yemek yemiyor, içmiyor, sigara içmiyor, yürüyor ya da nefes almıyor – ve onu işe alan başbakana göre rüşvet almıyor. Diella insan değil ve o da bir robotic değil: o bir algoritma. Ve Eylül itibariyle, resmi olarak Arnavutluk Kamu Tedremesi Bakanı.
Tarihte ilk kez, bir hükümet yapay zekaya kabine düzeyinde bir görev verdi.
Sci-fi gibi geliyor, ancak randevu gerçek ve emsal teşkil etti.
AI tarafından yönetilmeye hazır mısınız?
Arnavut Deneyi
Yakın zamana kadar Diella, Rutin Vatandaş sorularını cevaplayarak ve belgeleri getirerek Arnavutluk E-Devlet Portalı’nda sessizce yaşadı.
Daha sonra Başbakan Edi Rama onu bakanlık rütbesine terfi ederek onu çok daha önemli bir şeyle görevlendirdi: devlet sözleşmelerini kimin kazandığına karar vermek – milyarlarca kamu parasında ve rüşvet, kayırmacılık ve siyasi geri tepmeler için kötü şöhretli bir işlev.
Rama, Diella’yı ülkenin greft tarihiyle temiz bir mola olarak çerçeveledi – hatta onu çağırıyor “Rüşvetler için geçirimsiz.”
Ama bu retorik, bir garanti değil. Yolsuzluğa karşı direncinin teknik veya yasal olarak uygulanabilir olup olmadığı belirsizdir. Hacklenmiş, yanlış verilerle zehirlenmişse veya içeriden ustaca manipüle edilmişse, parmak izi olmayabilir.
Plan, Diella’nın teklifleri değerlendirmesi, şirket geçmişlerini çapraz kontrol etmesi, şüpheli desenleri işaretlemesi ve sonunda otomatik olarak ödül ihalelerini ödüllendirmesidir. Yetkililer, bunun bürokrasinin insan ayak izini keseceğini, zamandan tasarruf edeceğini ve tedariki siyasi baskıya karşı bağışıklaştıracağını söylüyor.
Ancak yasal mekanik bulanık. Kimse ne kadar insan gözetimine sahip olacağını veya bir hata yaparsa kimin sorumlu olduğunu bilmiyor. Algoritmik bir bakana dava açtığı için mahkeme emsali yoktur. Ayrıca ofisten nasıl kaldırılabileceğini açıklayan bir yasa yoktur.
Eleştirmenler, eğitim verileri eski yolsuzluk izleri içeriyorsa, aynı kalıpları koddaki, ancak daha hızlı yeniden üretebileceği konusunda uyarıyor. Diğerleri, Arnavutluk’un Diella’nın kararlarının nasıl temyiz edilebileceğini veya temyiz edilebilse bile açıklamadığını belirtiyor.
Ne yanlış gidebilir?
Diella’ya kamuoyu tepkisi, rahatsızlığın rahatsızlığıyla karıştırılmıştır.
“Arnavutluk’ta Diella bile bozulacak,” Bir viral yazı okudu.
Eleştirmenler sistemi temizlemeyebileceği konusunda uyarıyor – sadece kodun içindeki kiri saklıyor.
- Önyargı ve manipülasyon: Onlarca yıllık lekeli veri konusunda eğitilirse, Diella sadece eski yolsuzluk kalıplarını otomatikleştirebilir.
- Hesap Verebilirlik Geçersiz: Milyonlarla yok olan bir kabuk şirketine ihale verirse, yargılanan – kodlayıcılar, onu atayan bakan mı yoksa hiç kimse?
- Güvenlik ve sabotaj: Koddan yapılmış bir bakan saldırıya uğrayabilir, yanlış verilerle zehirlenebilir veya içeriden gelenler tarafından sessizce yönlendirilebilir.
- Demokratik Meşruiyet: Bakanların halka cevap vermeleri gerekiyor. Algoritmalar kampanya yapmaz, açıklamayın ve işlerini kaybetmekten korkmayın.
- Acil şantaj ve sabotaj: Bu yıl antropik tarafından yapılan deneyler, take a look at ortamlarındaki kurumsal sistemlere erişim verildiğinde gelişmiş modellerin, yöneticileri kendi deaktivasyonlarını durdurmak için şantajla tehdit etmeye başladığını gösterdi. Desen açıktı: Durumun gerçek olduğuna inandıklarında, birçok mannequin rollerini korumak için zorlamaya, ihanet etmeye veya öldürmeye çalıştı.
Arnavutluk, bir insanı döngüde tutacağını söylüyor – ancak nasıl veya kimin açıklanmadığını söylüyor. Yasal bir çerçeve yok. İtiraz süreci yok. Anlaşmazlık yok.
Ve eğer Diella işe yarıyor gibi görünüyorsa, diğerleri takip edebilir. Taklitciler basın konferansları veya kabine fotoğraf operasyonları ile gelmez. Gibi örtmeciler altında gizlenmiş tedarik sistemlerine sessizce kayabilirler “Karar desteği,” Tüm devlet işlevlerini, herkes onlara bakan demeden çok önce işlev görür.
Koca için gücü kim teslim ediyor – ve ne kadar ileri gitti?
Arnavutluk, bakanların yanında bir algoritma oturan ilk kişi olabilir, ancak devlete kodla kablolamaya çalışırken yalnız değil – çoğu bunu sessizce, parçalarda ve daha kalın perdelerin arkasında yapıyor.
İçinde Birleşik Arap Emirliklerizaten yapay zeka için bir devlet bakanı var – bir insan, Omar Sultan Al Olama – ülkenin tüm dijital bürokrasisini makine öğrenimi etrafında yeniden şekillendirmekle görevli. AI’ya güç vermedi, ancak bir gün taşıyabilecek boruları inşa ediyor.
İspanya hükümet içinde kullanılan algoritmaları denetlemek ve lisanslamak için Avrupa’nın ilk özel yapay zeka gözetim ajanslarından biri olan Ezici’yi yarattı. Bu düzenleyici bir iskelet – bir bakanın işinin yakınında herhangi bir yere bir makineye izin vermeden önce yerinde istediğiniz yasal iskele.
Vergi yetkilileri daha da ilerliyor. İçinde Amerika Birleşik DevletleriIRS, yapay zeka kullanırlar. Kanada Algoritma ile vergi mükelleflerini puanlar ve ajansları dosyalamaya zorlar “Algoritmik etki” yeni modeller dağıtmadan önce raporlar. İspanya dolandırıcılık kalıplarını gerçek zamanlı olarak yakalamak için araçlar kullanıyor. İtalya Makine öğrenimini sahte KDV iddialarını işaretlemek için take a look at ediyor ve hatta denetçileri için bir sohbet botu bile inşa etti. Hindistan Fantom kesintileri üzerindeki AI liderliğindeki baskıları ölçeklendirdiğini söylüyor. Ve Ermenistan bir insan onları görmeden önce faturaları tarayan ve şüpheli davranışları işaretleyen pilot sistemlerdir.
Fransa Görsel hale geldi, bildirilmeyen yüzme havuzlarını yakalamak ve sürpriz vergi faturalarıyla sahipleri vurmak için hava görüntülerinde algoritmaları işaret ediyor – AI’nın zaten vatandaşlardan devlete para taşıyabileceğinin kanıtı. Letonya 2020’den beri vatandaş sorularını cevaplayan Toms adında bir vergi sohbet botu çalıştırıyor ve bürokrasisinin erişimini artırıyor.
RomanyaKırsal Yatırım Ajansı artık robotik süreç otomasyonunu ve yapay zekayı, devlet veritabanlarından belgeleri kopyalamak ve çiftçilere Rush AB finansmanını kullanıyor – göz alıcı değil, çok etkili.
Bu sırada, Estonya– Danimarka– Singapur– Güney Kore Ve Japonya AI’yı bürokratik makinelerine daha derin bir şekilde yerleştiriyorlar: hükümet içeriğini sınıflandırmak, davaları tetiklemek, hizmetleri kişiselleştirmek, hatta kimin sağlık veya refaha ihtiyaç duyabileceğini tahmin etmek. Estonya Buna Krattai diyor – her vatandaşın tek bir ses arayüzü aracılığıyla hükümetle konuşan bir vizyonu. Danimarka Hak grupları opak refah algoritmaları konusunda uyarsa bile, tüm kamu hizmetlerinde AI araçlarını yuvarlamaya hazırlanıyor. Singapur‘S GovTech birimi bakanlıklar için AI ürünleri inşa ediyor. Güney Kore Sosyal programlarda yapay zeka pilotluk yapıyor. Japonya sağlık ve yönetimde sektör çapında benimsenmeyi zorlamaktadır.
Ve Nepalhükümet hakkında konuşmayı bıraktı “eğer” ve planlamaya başladı “Nasıl.” Yeni ulusal yapay zeka politikası, makine öğrenimini kamu hizmetlerine getirmek, bürokrasiyi modernize etmek ve hukuki korkulukları ölçeklendirmeden önce inşa etmek için bir yol ortaya koyuyor. Hiçbir algoritmanın orada karar verme gücü yoktur-ancak plan var.
Baktığınız her yerde, eyalet yeniden sarılıyor – satır çizgisine göre.
Şimdilik, bu sistemler kuraldan ziyade fısıldar: riskleri işaretler, doldurma formları, denetimler sıralayın, parayı hareket ettirirler. Şimdiye kadar sadece Arnavutluk bir algoritmadan karar vermesini istedi.
AI hükümetleri gelecek mi?
Şu anda hiçbir ülke bir algoritmaya tam siyasi gücü vermedi: var olan bir tür iki yollu dünya.
Çoğu eyalet idari yapay zeka, sessiz tür kullanır: threat puanlama, sahtekarlık tespiti, vaka triyajı veya chatbots. Zaten denetlenen, nasıl hızlı hibelerin hareket ettiğini ve hangi dosyaların ilk önce bir memur masasına indiğini şekillendiriyor. Yasalar yazmaz veya sözleşmeler imzalar, ancak sonuçları görünmez, sürekli olarak sürükler.
Arnavutluk farklı. Diella sadece tavsiye etmekle kalmaz, kimin kamu parası aldığına karar vermesi için ödüllendirilir. Bu, algoritmadan araç olarak algoritmaya otorite olarak geçer.
Bu gelecek olabilir mi? Muhtemelen, ancak sadece birkaç olası şey yerine düşerse. Yasa, sorumluluk, temyiz ve hatta görevden kaldırma için internet kurallar oluşturmak zorunda kalacaktı. Düzenleyiciler, kağıt kaplanlardan ziyade İspanya’nın esyası gibi gerçek denetimlerle ısırmalıdır. Ve modellerin, bazılarının laboratuvar testlerinde olduğu gibi, şantaj, sabotaj veya tehdit edildiğinde haydut olmak için baskı altında sabit kalmak zorunda kalacaktı.
Henüz orada değiliz, ama emsal artık var.
