ABD, İran savaşında yapay zekayı nasıl kullanıyor, teknolojiyi sunan şirket ne diyor?

Gündemi BBC Türkçe'den takip etmek artık WhatsApp'ta da mümkün. Haberlerimizin doğrudan telefonunuza gelmesi için tıklayın.

Teknoloji devi Palantir, BBC'ye verdiği özel röportajda, yapay zeka platformlarının askeri kullanımının öngörülemeyen risklere yol açabileceğine dair endişelere karşı çıkarak, teknolojinin nasıl kullanılacağının askeri müşterilerinin sorumluluğunda olduğunu savundu.

Bu açıklama, uzmanların Palantir'in ABD'nin İran'a yönelik saldırılarında kullanıldığı bildirilen yapay zeka destekli savunma platformu Maven Smart System hakkındaki endişelerini dile getirmesinin ardından geldi.

Analistler, askeri personelin saldırıları planlamasına yardımcı olan platformun, verilerin "anlamlı biçimde doğrulanması" için çok az zaman bıraktığını ve yanlış hedeflerin vurulmasına yol açabileceği uyarısında bulunuyor.

Şirketin İngiltere ve Avrupa Başkanı Louis Mosley BBC'ye verdiği röportajda, Maven gibi yapay zeka platformlarının ABD'nin İran savaşını yönetmesinde "belirleyici" bir rol oynadığını söyledi.

Ancak bu çıktının nasıl kullanılacağının sorumluluğunun her zaman "askeri kurumda" kalması gerektiğini ekledi.

Mosley, "Her zaman süreçte bir insan var, yani nihai kararı veren bir insan bulunuyor. Mevcut düzen bu" diyor.

Maven Smart System, Pentagon tarafından 2017'de hayata geçirildi. İstihbarat, uydu ve insansız hava aracı (İHA) görüntüleri de dahil olmak üzere çok büyük miktarda veriyi bir araya getirerek askeri hedefleme kararlarını hızlandırmak üzere tasarlandı.

Sistem bu verileri analiz ediyor ve ardından hedefleme için öneriler sunabiliyor.

Ayrıca, personel ve uçak gibi askeri teçhizatın mevcudiyetine göre kullanılacak güç düzeyini de önerebiliyor.

Ancak bu tür araçların savaşta kullanımı giderek daha fazla sorgulanıyor.

Şubat ayında Pentagon, Maven'i destekleyen sistemlerden biri olan Anthropic'in yapay zeka platformu Claude'ı şirketin otonom silahlar ve gözetimde kullanımına izin vermemesi üzerine aşamalı olarak kaldırılacağını açıkladı.

Palantir, bunun yerine alternatiflerin devreye alınabileceğini söylüyor.

Şubat ayında İran'la savaşın başlamasından bu yana ABD'nin ülke genelindeki saldırıları planlamak için Maven'i kullandığı bildiriliyor.

BBC'nin Maven'in siviller dahil yanlış hedefler önerebilme riski konusundaki sorusuna Mosley, platformun yalnızca askeri personelin karar alma sürecini hızlandırmak için tasarlanmış bir rehber olduğunu söyleyerek yanıt verdi. Otomatik bir hedefleme sistemi olarak görülmemesi gerektiğini de savundu.

Mosley, "Maven'i bir destek aracı olarak düşünebilirsiniz. Daha önce tek tek elle yapmaları gereken çok büyük miktarda bilgiyi sentezlemelerini sağlıyor" dedi.

Ancak Mosley, komutanların zaman baskısı altında personelinden Maven'in çıktısını onaylanmış bir karar gibi muamele etmesini isteme riskiyle ilgili soruya şu yanıtı verdi:

"Bu aslında askeri müşterilerimize sorulması gereken bir soru. Kimlerin hangi kararı vereceğini belirleyen politika çerçevesine onlar karar veriyor. Bu bizim rolümüz değil."

28 Şubat'tan bu yana ABD, İran'a karşı 11 binden fazla saldırı düzenledi; bunların çoğunun Maven tarafından belirlendiği bildiriliyor.

ABD'nin Ortadoğu'daki askeri güçlerinin başındaki Amiral Brad Cooper, yapay zeka sistemlerinin subaylara "çok büyük miktarda veriyi saniyeler içinde tarama" imkanı sunduğunu, böylece "liderlerin kaba gürültüyü aşarak düşmandan daha hızlı kararlar almasını" sağladığını söyledi.

Ancak yapay zekanın görev planlama süreçlerine dahil olmasının ciddi riskler yarattığından endişe duyanlar da var.

İngiltere'deki Queen Mary Üniversitesi'nden Prof Elke Schwarz, "Hız ve ölçeğe öncelik verilmesi ve güç kullanımının buna göre şekillenmesi, hedeflerin anlamlı biçimde doğrulanması için çok az zaman bırakıyor; bu da yanlışlıkla sivillerin hedef alınmasına yol açabilir" dedi.

Schwarz, "Öldürme riski varsa ve kritik karar alma sürecinin büyük bir bölümünü sizin yerinize halledecek yazılıma devrederseniz, o zaman yazılıma bağımlı hale gelirsiniz. Bu da sizi düşüşe götürür" diye ekledi.

Pentagon yetkilileri, İran'ın Minab kasabasındaki bir okula yönelik ölümcül saldırıda Maven gibi yapay zeka araçlarının hedef belirlemek için kullanılıp kullanılmadığı konusunda son haftalarda sorgulandı.

İranlı yetkililer, savaşın ilk gününde gerçekleştirilen bir saldırıda 168 kişinin öldüğünü, bunların yaklaşık 110'unun çocuk olduğunu söyledi.

Kongre'de bazı üst düzey Demokratlar, Maven gibi yapay zeka platformlarının daha fazla denetlenmesi çağrısında bulundu.

Temsilciler Meclisi Silahlı Hizmetler Komitesi Üyesi Sara Jacobs, yapay zeka sistemlerinin nasıl ve ne zaman kullanılacağı konusunda açıkça uygulanan kurallar gerektiğini söyledi.

Yapay zeka araçlarının yüzde 100 güvenilir olmadığını savunan Jacobs, bu araçların ince hatalar yapabildiğini ancak operatörlerin yine de onlara aşırı güvendiğini söyledi.

Jacobs, "Yanlış karar vermenin bedeli siviller ve bu görevleri gerçekleştiren askerler için yıkıcı olabileceğinden, ordunun yapay zeka kullanımına katı güvenlik sınırları koymak ve ölümcül güç kullanımına ilişkin her kararda mutlaka bir insanın süreçte olmasını güvence altına almak bizim sorumluluğumuz" dedi.

Ancak Mosley, şirketinin platformunun Pentagon'da karar alma süreçlerini aceleye getirdiği ve potansiyel olarak tehlikeli durumlar yarattığı yönündeki iddiaları reddetti.

Aksine, komutanların artık daha hızlı harekete geçmesinin Maven'in sağladığı "arttırılmış verimliliğin bir sonucu" olduğunu savundu.

"Operasyonel güvenlik" gerekçesiyle Pentagon, BBC'nin gelecekte Maven gibi yapay zeka sistemlerinin nasıl kullanılacağı veya tersliklerde kimin sorumlu tutulacağı konusundaki sorularına yanıt vermedi.

Ancak ABD'li yetkililer, Maven'in sistemlere daha da entegre edilmesine yönelik planları ilerletiyor gibi görünüyor.

Geçen hafta Reuters, Pentagon'un Maven'i "resmi bir kayıt programı" olarak tanımladığını bildirdi. Bu, yazılıma uzun vadede ABD ordusu genelinde entegre edilecek bir teknoloji statüsü verilmesi anlamına geliyor.

Reuters tarafından elde edilen bir mektupta Savunma Bakan Yardımcısı Steve Feinberg, platformun komutanlara "düşmanlarımızı tüm alanlarda tespit etmek, caydırmak ve baskı altına almak için gerekli en son araçları" sağlayacağını söyledi.

Jemimah Herd bu habere katkıda bulundu.

Bu haber, BBC gazetecileri tarafından hazırlandı ve kontrol edildi. Bir pilot proje kapsamında çevirisinde yapay zekadan da faydalanıldı.