Elon Musk guida 116 esperti che chiedono il divieto assoluto di robot killer

Sta aumentando il fronte delle persone che ritengono imminente la singolarità, e l’arrivo del momento in cui con dei robot i pochi potranno controllare i tanti.

E tra le varie attività di Elon Musk, c’é pure questa:

https://www.theguardian.com/technology/2017/aug/20/elon-musk-killer-robots-experts-outright-ban-lethal-autonomous-weapons-war

C’é pure questo nuovo sorprendente video della Boston Dynamics

L’efficienza di un robot combattente potrà anche essere elevata, ma se subisce anche un guasto parziale è fuori combattimento.
I cambi di sistemi d’arma possono rendere un robot combattente obsoleto in poco tempo. Un pò come il duello cannone corazza.
Il robot combattente, ha un costo di produzione, un costo di manutenzione, un costo di aggiornamento ed un costo di smaltimento. Paradossalmente l’uomo può costare in tutto molto meno, per disperazione o per volontarietà.
L’intelligenza artificiale non è ancora in grado di rendersi flessibile. “Il miglior piano di battaglia andrà in fumo al primo contatto con il nemico” Von Clausewitz.
Il robot combattente può essere impiegato efficacemente solo se guidato da una mente umana o se a supporto di forze umane.
Eserciti di robot che soppiantano gli uomini hanno la stessa probabilità di avverarsi come una colonia umana su Marte.
Così spero.

Se l’articolo è lo stesso che ho letto stamattina si fa riferimento a droni volanti in grado di attaccare da soli, non a robot tipo robocop.
Questi sono quindi molto vicini alla realtà.

Probabilmente il mondo dei robot umanoidi killer autoreplicanti é molto lontano; invece il mondo dei meccanismi che sparano da soli ed uccidono, no. Io penso si faccia riferimento a dispositivi tipo una postazione di artiglieria o ad una mitragliatrice automatica, o ai droni israeliani che sparano 3 colpi di pistola o ai Predator americani che già uccidono, ai Ch-901 cinesi, ai piccoli robot esploratori della iRobot con pistola a bordo, etc. Ce ne sono tantissimi, persino l’Italia ne sta sviluppando. Inoltre io stesso avevo visto di persona su invito delle autorità militari (perché sono ufficiale di artiglieria di complemento in congedo) il semovente PZH2000 che é teleguidabile a distanza.
Occorre probabilmente distinguere tra macchine teleguidate, e macchine che decidono di sparare da sole.
Con queste macchine, é facile far strage di esseri umani. Ed é ancora più facile non vedendoli negli occhi.
Così pochi esseri umani molto ricchi possono ipoteticamente soggiogare il resto dell’umanità, ad esempio con sciami di droni killer che si possono fabbricare illimitatamente.
Sembrerebbe un allarme prematuro, anch’io la penso come Acris, prima di creare macchine senza tallone d’achille, campa cavallo.
Però rimane che Elon Musk e “116 esperti” si stanno dedicando ad una petizione del genere.
Non so… :thinking:

Al di là di quanto sia lontano o meno dalla realtà questo tema, credo sia fondamentale stabilire delle linee guida.

Le guerre non si vincono con i droni.
Infatti ho scritto che sono utili, militarmente parlando, solo se a supporto dei combattenti umani. La loro intelligenza è limitata dal software e dai limiti dei loro sensori. Esistono metodi per ingannarli e farli sparare contro finti bersagli e non imparano dai loro errori.
Nelle “guerre” moderne i droni sparano a tutto, uomo, donna, bambino, cane, mucca… perché ci si aspetta che sul campo di battaglia ci siano solo combattenti. Nell’ottica militare il bambino può essere un portaordini o una spia. Se questo urta la vostra sensibilità romantica è però una realtà sul campo, basta parlarne con i reduci, di ambo le parti.
Oggi i droni sono impiegati contro forze che spesso non sono dotate di armamenti complessi in grado di replicare efficacemente ad attacchi di questo tipo, le guerre asimmetriche tra eserciti e guerriglieri. E comunque la guerriglia riesce a trovare lo stesso delle contromisure, più o meno efficaci, altrimenti non ci sarebbe più un guerrigliero a pagarlo a peso d’oro.
L’appello di Musk suona un po’ come il divieto dell’uso del cannone che fu emesso da Lutero (salvo il suo uso contro gli infedeli musulmani), scandalizzato dagli effetti devastanti di un proiettile sparato contro un essere umano. Oggi il cannone è considerato un arma ovvia in un esercito. Forse domani sarà così anche per i droni.
Credo sia meglio che Musk si scandalizzi per le guerre in se, non per le armi usate per combatterle.

Premettendo che la tua ultima frase è correttissima e la sottoscrivo, il resto è anche corretto ma non è ciò che vuole dire Musk e che anche io penso. Fino ad oggi è un azione umana che uccide avversari quasi istantaneamente, avere un robot che decide autonomamente quando ed a cosa sparare mi sembra scorretto anche se questo è progettato e programmato da umani, la convenzione di Ginevra ufficialmente esiste e vieta determinate filosofie di azione e secondo me anche questa dovrebbe farne parte, per di più come correttamente dici, oggi le guerre sono asimmetriche e la convenzione di ginevra i grandi stati la seguono, per lo meno ufficialmente, mentre i guerriglieri non si fanno problemi ad usare armi chimiche ad esempio. Droni automatici però non sono alla portata di guerriglieri, ma delle grandi potenze si.
Poi ovvio che la guerra è una schifezza ed innesca dei meccanismi di odio difficilmente fermabili.

Just my 2 cents.

Raffaele

Anche una grande potenza penso avrebbe difficoltà a produrre e gestire un esercito di robot.

Un m1 abrams costa fino a 4 milioni, mentre quanto costa la TNT in grado di farlo saltare? Un M1 robot non costerebbe di meno, e forse avrebbe anche più difficoltà di uno a guida umana nel riconoscere mine o trappole nascoste.
Un robot antropomorfo alla terminator è semplicemente ridicolo per un discorso di corazzatura: un cecchino con un semplice calibro .50 ne farebbe una strage.

Un sentiero praticabile sono tanti robottini armati alla leggera (pistola/uzi), in grado di muoversi su zampe. Ma saturare un campo di battaglia lo vedo comunque costoso, e le dimensioni ridotte ne ridurrebbero sicuramente autonomia e intelligenza
:ambulance:

L’umano vince ancora (per adesso)

Acris, comprendo perfettamente, ma se quell’arma tu la vieti, qualcun altro la userà.
Le convenzioni di Ginevra non erano, non sono e non saranno accettate da tutti gli stati del mondo.
Un tempo era considerato immorale uccidere i cavalli in battaglia, perché i nobili li definivano animali “nobili”. Poi la nobiltà ha perso di smalto ed anche i cavalli sono diventati un bersaglio.
L’occidente ha elaborato la guerra nel corso dei secoli ed oggi è una scienza a tutti gli effetti, con le sue regole. Una regola è che se devo eliminare un avversario, gli scarico addosso tutto la forza che ho, colpendolo ovunque e comunque. Le due guerre mondiali del ventesimo secolo hanno puntato all’annientamento dell’avversario.
Ma i militari non sono delle belve sanguinarie. Nel momento in cui la politica gli ordina d’intervenire, essi agiscono. Le guerricciole che hanno costellato gli ultimi decenni sono nulla in confronto a ciò che potrebbe fare un esercito libero d’agire senza vincoli come le regole d’ingaggio.
Il problema è a monte della guerra perché questa è il frutto di una decisione presa da qualcuno, il politico, che non è un militare di professione (qualche volta lo è, ma è un altra storia).
La domanda quindi è sempre la stessa: possibile che il politico non abbia un altra soluzione e sia già alla frutta?