Marekani inavyotumia AI katika vita dhidi ya Iran

Katika mahojiano ya kipekee na BBC, kampuni kubwa ya teknolojia, Palantir Technologies, imepinga wasiwasi kwamba matumizi ya AI katika jeshi yanaweza kusababisha hatari zisizotarajiwa, ikisisitiza kuwa jinsi teknolojia inavyotumika ni suala lililoko mikono ni mwa wateja wake (Jeshi).

Kauli hii inakuja baada ya wataalamu kuonyesha wasiwasi kuhusu mfumo wa Maven Smart System wa Palantir, mfumo wa kijeshi unaaotumia akili mnemba unaodaiwa kutumika katika mashambulizi ya Marekani dhidi ya Iran.

Wachambuzi wanasema kuwa mfumo huu, unaosaidia wanajeshi kupanga mashambulizi, hauiishi kwenye 'data', unaweza kukosea na kusababisha kushambulia malengo yasiyo sahihi.

Louis Mosley, rais wa kampuni hiyo kwa Uingereza na Ulaya, aliambia BBC kuwa mifumo ya AI kama Maven ni muhimu kwa namna Marekani inavyosimamia vita vya Iran.

Hata hivyo, aliongeza kuwa jukumu la jinsi matokeo na matumizi yake yanabaki "kwa taasisi hiyo ya kijeshi." Mosley alisema, "Daima kuna binadamu anayehusika katika mchakato, ikimaanisha kuna binadamu anayefanya uamuzi wa mwisho (sio akili mnemba peke yake inayoamua)."

Mfumo wa Maven Smart ulianzishwa na Pentagon mnamo 2017. Umelenga kuongeza kasi ya maamuzi ya malengo ya kijeshi kwa kuunganisha idadi kubwa ya taarifa au data, ikiwemo taarifa za kijasusi, picha za satelaiti, na picha za ndege zisizo na rubani 'drones'. Mfumo huu unachambua taarifa hizi na unaweza kutoa mapendekezo ya malengo.

Mfumo huu pia unaweza kupendekeza kiwango cha nguvu kinachotumika, kulingana na upatikanaji wa vifaa vya kijeshi kama wanajeshi na ndege.

Hata hivyo, matumizi ya mifumo kama hii katika vita yanazua maswali zaidi.

Mnamo Februari, Pentagon ilitangaza kuwa mfumo wa AI wa Anthropic, Claude, mojawapo ya mifumo inayosaidia Maven, ingeondolewa baada ya kampuni hiyo kushindwa kuruhusu matumizi yake katika silaha za kujitegemea na ufuatiliaji. Palantir wanasema kwamba mbadala zinaweza kuletwa badala yake.

Tangu kuanza kwa vita na Iran mnamo Februari, Marekani imetumia Maven kupanga mashambulizi kote nchini humo.

Alipoulizwa na BBC kuhusu hatari ya Maven kufanya makosa , ikiwemo kushambulia raia, Mosley alijibu kuwa mfumo huo ni mwongozo tu ulioundwa kuongeza kasi ya mchakato wa maamuzi kwa wanajeshi. Pia alisisitiza kuwa haipaswi kuonekana kama ni mfumo wa kushambulia.

Mosley alisema, "Unaweza kufikiria Maven kama kifaa cha msaada tu. Kinawezesha wanajeshi kukusanya idadi kubwa ya taarifa (kwa haraka)".

Hata hivyo, alipoulizwa kuhusu hatari ya maafisa, kwa shinikizo la muda, kuamuru wanajeshi wao kuchukulia matokeo ya Maven kama uamuzi uliothibitishwa, alisema:

"Hii ni kweli swali ambalo linapaswa kuulizwa kwa wateja wetu (jeshi). Wao ndio wanaamua kupitia sera zao nani anayefanya uamuzi gani. Hilo sio jukumu letu."

Tangu Februari 28, Marekani imetekeleza zaidi ya mashambulizi 11,000 dhidi ya Iran; mengi ya mashambulizi haya yanadaiwa kupangwa na Maven.

Admiral Brad Cooper, mkuu wa vikosi vya Marekani Mashariki ya Kati, alisema mifumo ya akili mnemba inaruhusu maafisa "kupitia idadi kubwa ya taarifa kwa sekunde chache," na hivyo kuwawezesha "viongozi kufanya maamuzi haraka kuliko adui."

Hata hivyo, baadhi wanawasiwasi kwamba kuhusisha AI katika mchakato wa kupanga jukumu la kijeshi unaleta hatari kubwa.

Profesa Elke Schwarz kutoka Chuo Kikuu cha Queen Mary, Uingereza, alisema, "Kuweka kipaumbele kwenye kasi na wingi, inaweza kusababisha raia kushambuliwa kwa makosa."

Schwarz aliongeza, "Kama kuna hatari ya kifo halafu unaipa AI sehemu kubwa ya mchakato muhimu wa kufanya maamuzi, basi unakuwa tegemezi kwa programu hiyo. Hii inasababisha kupungua kwa uthabiti."

Maafisa wa Pentagon wamekuwa wakitupiwa maswali katika wiki za hivi karibuni kuhusu mifumo ya AI kama Maven kutumika kutambua malengo katika shambulio la kikatili dhidi ya shule katika mji wa Minab, Iran. Maafisa wa Iran walisema watu 168 waliuawa katika shambulio hilo siku ya kwanza ya vita, takriban 110 kati yao walikuwa watoto.

Baadhi ya wanasiasa waandamizi wa Democrats katika Congress wamesema kuna haja ya uchunguzi mkubwa zaidi kufanyika kuhusu mifumo ya AI kama Maven.

Mjumbe wa kamati ya huduma za kijeshi ya bunge, Sara Jacobs, alisema kuna haja ya kuwepo kwa kanuni zilizo wazi kuhusu jinsi na lini mifumo ya AI inaweza kutumika.

Jacobs alisisitiza kuwa mifumo ya AI si sahihi kwa asilimia 100, akisema inaweza kufanya makosa madogo, lakini waendeshaji wa mifumo hiyo bado wanaamini sana matokeo yake.

Jacobs alisema, "Kwa sababu gharama ya uamuzi mbaya inaweza kuwa mbaya kwa raia na wanajeshi wanaotekeleza misheni hii, ni jukumu letu kuweka mipaka thabiti ya usalama katika matumizi ya akili mnemba na kuhakikisha kuna binadamu anayehusika katika kila uamuzi kuhusu matumizi ya nguvu ya kuua."

Hata hivyo, Mosley alikataa madai kwamba mfumo wa kampuni yake unafanya maamuzi kwa haraka sana ndani Pentagon na kutengeneza hali hatari.

Kinyume chake, alisisitiza kwamba ukweli kuwa maafisa sasa wanaweza kuchukua hatua haraka ni "matokeo ya ufanisi ulioboreshwa" unaotolewa na Maven.

Akiashiria "usalama wa operesheni," Pentagon imekataa kujibu maswali ya BBC kuhusu jinsi mifumo ya AI kama Maven itakavyotumika siku zijazo au nani atakayehusika ikiwa kutakuwa na kasoro.

Hata hivyo, maafisa wa Marekani wanaonekana kuendelea na mipango ya kuingiza Maven zaidi kwenye mifumo ya kijeshi.

Wiki iliyopita, Reuters iliripoti kuwa Pentagon imeelezea Maven kama "programu rasmi ya usajili." Hii inamaanisha programu hiyo inatambulika kiteknolojia na itakuwa sehemu ya mfumo wa jeshi la Marekani kwa muda mrefu.

Katika barua iliyowasilishwa Reuters, Naibu Waziri anayeshughulikia masuala ya ulinzi Marekani, Steve Feinberg alisema mfumo huu unawasaidia maafisa kugundua, kuzuia, na kudhibiti maadui zetu katika maeneo yote."

Jemimah Herd amechangia katika taarifa hii ambayo imetayarishwa na kupitiwa na wanahabari wa BBC. Akili mnemba pia imetumika katika kutafsiri kama sehemu ya majaribio.