Dare una forte riflessione all'IA e all'autoconsapevolezza, combinate con il comportamento etico e l'etica dell'IA.Scommetto che tu credi di esserlo.Il fatto è che, presumibilmente, pochi di noi sono particolarmente consapevoli di sé.C'è una gamma o un grado di autoconsapevolezza e tutti noi presumibilmente variamo nel modo in cui siamo astutamente consapevoli di noi stessi.Potresti pensare di essere completamente consapevole di te stesso e di esserlo solo marginalmente.Potresti essere poco consapevole di te stesso e renderti conto che è il tuo stato mentale.Nel frattempo, nella parte più alta dello spettro, potresti credere di essere completamente consapevole di te stesso e in effetti lo sei francamente tanto quanto vengono.Buon per te.A proposito, a che serve essere estremamente consapevoli di sé?Secondo una ricerca pubblicata sull'Harvard Business Review (HBR) da Tasha Eurich, secondo quanto riferito sei in grado di prendere decisioni migliori, sei più fiducioso nelle tue decisioni, sei più forte nelle tue capacità comunicative e nel complesso più efficace (per articolo intitolato " Che cos'è veramente l'autoconsapevolezza (e come coltivarla)." Il fattore bonus è che si dice che coloro che hanno una stridente consapevolezza di sé siano meno inclini a imbrogliare, rubare o mentire. In questo senso, c'è una doppia possibilità di evitare essere un mascalzone o un truffatore, oltre a sforzarsi di essere un essere umano migliore e abbellire il tuo prossimo genere umano.Tutto questo discorso sull'autocoscienza solleva una domanda alquanto ovvia, vale a dire, cosa denota effettivamente la frase autoconsapevolezza.Puoi facilmente trovare tonnellate di varie definizioni e interpretazioni sul complesso e, per così dire, costrutto pastoso che implica l'autocoscienza.Alcuni semplificherebbero le cose suggerendo che la consapevolezza di sé consiste nel monitorare te stesso, sapendo cosa stai facendo.Sei profondamente consapevole dei tuoi pensieri e delle tue azioni.Presumibilmente, quando non è consapevole di sé, una persona non si renderebbe conto di cosa sta facendo, né perché, e non sarebbe nemmeno consapevole di ciò che le altre persone hanno da dire su di loro.Sono sicuro che hai incontrato persone così.Alcune persone sembrano camminare su questa terra senza avere la più pallida idea di cosa stiano facendo, e non hanno nemmeno una parvenza di ciò che gli altri dicono di loro.Immagino che potresti sostenere che sono come un toro che carica a testa in giù in una delicata boutique di prodotti fragili.Di solito tendiamo a credere che il toro non sappia cosa sta facendo e rimanga ignaro dei punti di vista degli altri a meno che quegli altri non cerchino di manovrare fisicamente o rinchiudere la creatura all'oscuro.Si dice che la consapevolezza di sé possa essere in qualche modo ricorsiva.Permettetemi di abbozzare un esempio per illustrare questa ricorsione.Stai guardando un video di gatti piuttosto avvincente sul tuo smartphone (lo fanno tutti, a quanto pare).Alcune persone non avrebbero altri pensieri apparenti oltre alle meravigliose buffonate commoventi di quei cari gatti.Nel frattempo, chiunque abbia un minimo di autocoscienza, è consapevole che sta guardando un video di gatti.Potrebbero anche essere consapevoli del fatto che gli altri intorno a loro notano che stanno guardando un video di gatti.Nota che puoi essere consapevole di te stesso ed essere comunque immerso in una per così dire una particolare attività primaria.L'attività principale in questo caso è guardare il video del gatto.In secondo luogo, e simultaneamente, puoi portare il pensiero che stai effettivamente guardando un video di gatti.Sei anche in grado di portare il pensiero che gli altri ti stanno osservando mentre stai guardando il video del gatto del tutto divertente.Non devi necessariamente interrompere un'attività, come interrompere la visione del video del gatto, per poi contemplare separatamente che stai (o stavi) guardando un video del gatto.Questi pensieri possono apparentemente verificarsi in parallelo tra loro.A volte, la nostra autocoscienza potrebbe però scacciarci o almeno interrompere un'attività mentale primaria.Forse, mentre pensi alla tua visione del video del gatto, la tua mente si esaurisce parzialmente perché si sta sforzando di concentrarsi esclusivamente sul video stesso.Scegli quindi di riavvolgere il video per rivisitare la parte che hai visto ma che eri mentalmente distratto dal comprendere completamente.L'autocoscienza ha disturbato la tua attività mentale primaria.Ok, ora siamo pronti per l'insorgere degli aspetti ricorsivi.Stai guardando un video di gatti.La tua autoconsapevolezza ti sta informando che stai guardando un video di gatti e che gli altri ti stanno guardando mentre stai guardando il video.Questo è lo status quo.Successivamente fai un ulteriore salto mentale.Inizi a pensare alla tua autocoscienza.Sei consapevole che stai coinvolgendo la tua autoconsapevolezza.Ecco come va: sto pensando troppo alla mia visione del video del gatto, ti chiedi disperatamente?Questo è un altro livello di autocoscienza.Classificazione dell'autoconsapevolezza in cima all'altra autocoscienza.C'è un vecchio detto che dice che sono le tartarughe fino in fondo.Per i fenomeni di autocoscienza potresti essere:Forse ti sarai reso conto che prima stavo sottolineando in modo sottile che sembrano esserci due categorie principali di autocoscienza.Una teoria particolare postula che abbiamo una sorta di autocoscienza interna che si concentra sui nostri stati interni, e abbiamo anche un'autoconsapevolezza esterna che aiuta a misurare le percezioni su di noi di coloro che ci circondano che ci stanno osservando.Secondo l'articolo di HBR, ecco una rapida rappresentazione dei due tipi teorizzati di autocoscienza: “Il primo, che abbiamo soprannominato autocoscienza interna, rappresenta quanto chiaramente vediamo i nostri valori, passioni, aspirazioni, adatti al nostro ambiente, reazioni (compresi pensieri, sentimenti, comportamenti, punti di forza e di debolezza) e impatto sugli altri”.E intanto l'altro è: “La seconda categoria, l'autocoscienza esterna, significa capire come ci vedono gli altri, in termini di quegli stessi fattori sopra elencati.La nostra ricerca mostra che le persone che sanno come le vedono gli altri sono più abili nel mostrare empatia e nel prendere le prospettive degli altri”.Una pratica matrice due per due o quattro quadrati può essere derivata affermando che sia l'autocoscienza interna che quella esterna vanno da alta a bassa e puoi accoppiare le due categorie l'una contro l'altra.La ricerca HBR indica che si dice che tu sia uno di questi quattro archetipi di autoconsapevolezza:L'apice sarebbe l'archetipo "Consapevole" che consiste nell'essere al gradino più alto dell'essere consapevole di sé esternamente e allo stesso modo al vertice dell'essere consapevole di sé internamente.Per chiarire, non raggiungi questa posizione decantata in modo necessariamente permanente.Puoi scivolare avanti e indietro tra l'essere alto e basso, tra i regni dell'autocoscienza interna ed esterna.Può dipendere dall'ora del giorno, dalla situazione in cui ti trovi e da una serie di altri fattori salienti.Ora che abbiamo affrontato affabilmente alcuni elementi fondamentali sull'autocoscienza, possiamo cercare di legare questo al tema dei comportamenti etici.La solita affermazione sull'essere consapevoli di sé è che è più probabile che tu sia al di sopra quando sei consapevole di te stesso.Ciò significa, come già indicato, che sei meno incline a comportamenti etici avversi come rubare, imbrogliare e mentire.La logica di questa tendenza è che l'attività della tua autocoscienza ti farebbe capire che il tuo comportamento è sgradevole o non etico.Non solo ti sorprendi mentre viri in acque fangose ​​e non etiche, ma sei anche incline a tornare indietro e sulla terraferma (la santità del territorio etico), per così dire.La tua autocoscienza ti aiuta ad esercitare l'autocontrollo.Un contrasto sarebbe presumibilmente quando c'è poca o nessuna consapevolezza di sé, il che suggerisce che qualcuno forse è ignaro della propria tendenza a comportamenti non etici.Si potrebbe sostenere che una persona così inconsapevole potrebbe non rendersi conto che si sta comportando in modo negativo.Simile al toro nel negozio di prodotti fragili, fino a quando qualcosa di più apertamente cattura la loro attenzione, è improbabile che si autoregolano.Non tutti accettano questo, tra l'altro.Alcuni sosterrebbero che l'autocoscienza può essere facilmente applicata all'essere non etici come essere etici.Ad esempio, un malfattore potrebbe essere completamente consapevole di sé e apprezzare il fatto che stia commettendo la trasgressione.La loro autocoscienza li spinge persino più stridentemente verso atti sempre più grandi di cattiva condotta nefasta.C'è più nuvolosità su questo di quanto potrebbe apparire direttamente all'occhio.Supponiamo che qualcuno sia profondamente consapevole di sé, ma non sia consapevole dei costumi etici di una determinata società o cultura.In questo modo, non hanno alcuna guida etica, nonostante il fatto dichiarato che sono autocoscienti.Oppure, se vuoi, forse la persona conosce i precetti etici e non crede che si applichino ad essi.Si considerano unici o al di fuori dei limiti del pensiero etico convenzionale.Gira e gira.La consapevolezza di sé potrebbe essere interpretata come un'arma a doppio taglio orientata all'etica, alcuni sottolineano con fervore.Per il momento, andiamo con la versione della faccia felice che consiste nell'autocoscienza in generale che ci guida o spinge verso comportamenti etici.A parità di tutto il resto, faremo l'assurdo sfacciato che maggiore è la consapevolezza di sé, maggiore sarà l'inclinazione etica.Sembra sicuramente piacevole e stimolante augurarlo così.Cambiamo marcia e portiamo l'Intelligenza Artificiale (AI) nel quadro.Siamo a un punto in questa discussione per collegare tutti i grovigli del procedimento con il fiorente regno dell'IA etica, comunemente noto anche come l'etica dell'IA.Per la mia copertura continua ed estesa dell'etica dell'IA, vedere il collegamento qui e il collegamento qui, solo per citarne alcuni.La nozione di IA etica implica l'intreccio del campo dell'etica e del comportamento etico con l'avvento dell'IA.Hai sicuramente visto titoli che hanno sollevato campanelli d'allarme sull'IA piena di iniquità e vari pregiudizi.Ad esempio, si teme che i sistemi di riconoscimento facciale basati sull'intelligenza artificiale possano a volte mostrare discriminazione razziale e di genere, in genere a causa del modo in cui le strutture di Machine Learning (ML) e Deep Learning (DL) sottostanti sono state addestrate e messe in campo (vedi la mia analisi a questo link qui).Per cercare di fermare o almeno mitigare la corsa alla rinfusa verso l'IA For Bad, costituita da sistemi di IA che sono inavvertitamente o talvolta intenzionalmente modellati per agire male, c'è stata una recente urgenza di applicare i precetti etici allo sviluppo e all'uso di AI.L'obiettivo serio è fornire una guida etica agli sviluppatori di intelligenza artificiale, oltre alle aziende che costruiscono o mettono in campo l'IA e a quelle che dipendono dalle applicazioni di intelligenza artificiale.Come esempio dell'elaborazione e dell'adozione dei principi dell'IA etica, vedere la mia copertura al collegamento qui.Concediti un momento di riflessione per considerare queste tre domande estremamente cruciali:Lo direi senza vergogna, è un compito arduo.L'emozione di creare IA può sopraffare qualsiasi accenno di attenzione verso l'etica dell'IA.Bene, non solo il brivido, ma anche il guadagno è parte integrante di questa equazione.Potresti essere sorpreso di sapere che alcuni nel regno dell'IA sono propensi a dire che si occuperanno della "roba" dell'IA etica una volta che avranno portato i loro sistemi di IA fuori dalla porta.Questo è il tipico mantra tecnico di assicurarsi di fallire velocemente e fallire spesso finché non lo fai bene (si spera di farlo bene).Naturalmente, coloro che sommariamente stanno spingendo un'IA eticamente dubbia sul pubblico in generale stanno lasciando il cavallo fuori dalla stalla.La loro idea dichiarata e tesa è che l'IA For Bad verrà riparato dopo che è stato utilizzato quotidianamente, il che è dannoso in ritardo poiché il cavallo sta già galoppando in modo arbitrario.Si possono fare dei danni.C'è anche la maggiore possibilità che nulla venga riparato o regolato mentre l'IA è in uso.Una scusa frequente è che giocherellare con l'IA in quel frangente potrebbe peggiorare ulteriormente le cose in termini di processo decisionale algoritmico (ADM) già non etico che va completamente fuori di testa.Cosa si può fare per ottenere l'utilità e la vitalità di avere l'IA etica come una luce brillante e guida nelle menti di coloro che stanno costruendo l'IA, mettendo in campo l'IA e usando l'IA?Sì, l'idea è che se le persone fossero più consapevoli di come usano o interagiscono con l'IA, ciò potrebbe aumentare la loro propensione a volere che l'IA etica sia la norma.Lo stesso si potrebbe dire degli sviluppatori di intelligenza artificiale e delle società legate ai sistemi di intelligenza artificiale.Se fossero più consapevoli di ciò che stanno facendo, forse abbraccerebbero maggiormente l'etica dell'IA.Parte della logica, come già stabilito, è che l'autoconsapevolezza offre una tendenza ad essere una persona eticamente migliore e anche a evitare di essere una persona eticamente scadente.Se riusciamo a mantenere viva questa premessa, ciò implica che gli sviluppatori di IA più inclini all'autocoscienza saranno ergo inclini a comportamenti etici e quindi inclini a produrre un'IA eticamente sana.È un ponte troppo lontano per te?Alcuni direbbero che l'indiretto è un po' troppo.L'esorbitante catena di collegamenti tra l'autocoscienza, l'essere eticamente virtuosi e l'applicazione di precetti etici all'IA è forse difficile da digerire.Una controargomentazione è che non potrebbe far male provare.Gli scettici direbbero che uno sviluppatore di intelligenza artificiale potrebbe essere consapevole di sé e possibilmente avere una mentalità più etica, ma non necessariamente salterà verso l'applicazione di quell'accampamento mentale ai costumi dell'IA etica.La risposta a tale scrupolo è che se siamo in grado di pubblicizzare e rendere popolare le questioni relative all'IA etica, la connessione altrimenti apparentemente tenue diventerà più ovvia, prevista e forse diventerà il modo standard di fare le cose quando si tratta di creare l'IA.Ora aggiungerò una svolta a questa saga.La svolta potrebbe farti girare la testa.Assicurati di essere ben seduto e preparato per ciò che sto per indicare.Alcuni sottolineano che dovremmo integrare l'IA etica direttamente nell'IA stessa.Potresti essere sconcertato da quella dichiarazione.Disimballiamolo.Un programmatore potrebbe creare un sistema di intelligenza artificiale e farlo con la propria autocoscienza di programmazione nel tentativo di impedire che l'IA incarni pregiudizi e iniquità.Piuttosto che limitarsi a dedicarsi alla programmazione, lo sviluppatore si guarda alle spalle per chiedersi se l'approccio che stanno intraprendendo si tradurrà nella necessaria assenza di elementi avversi nell'IA.Ottimo, abbiamo uno sviluppatore di intelligenza artificiale che sembra essere sufficientemente consapevole di sé, ha cercato di abbracciare comportamenti etici e ha visto la luce per includere precetti etici mentre realizzano il loro sistema di intelligenza artificiale.Ottieni una vittoria per l'IA etica!Tutto bene, anche se qui c'è qualcosa che può trasparire in seguito.L'IA viene messa in campo e utilizzata quotidianamente.Parte dell'IA includeva un componente per poter "imparare" al volo.Ciò significa che l'IA può adattarsi in base a nuovi dati e altri aspetti della programmazione originale.Per inciso, questo non implica che l'IA sia senziente.Non abbiamo IA senziente.Ignora quei titoli stupidi che dicono che lo facciamo.Nessuno può dire se avremo un'IA senziente, e nessuno può prevedere a sufficienza quando, se mai, accadrà.Tornando alla nostra storia, l'IA è stata ideata appositamente per migliorare se stessa mentre era in corso.Una nozione abbastanza utile.Piuttosto che i programmatori devono apportare continuamente miglioramenti, consentono al programma di intelligenza artificiale di farlo da solo (Whoa, è che stai lavorando da solo?).Durante il tempo in cui l'IA centimetro per centimetro si adatta, si scopre che varie sordide iniquità e pregiudizi si stanno insinuando nel sistema dell'IA a causa dei suoi stessi atti di alterazione.Mentre il programmatore originariamente teneva fuori quegli aspetti squallidi, ora stanno formulando a causa dell'adattamento dell'IA al volo.Purtroppo, questo può accadere in un modo così sottile dietro le quinte che nessuno è più saggio.Coloro che in precedenza avrebbero potuto dare il via libera all'IA dopo i test esaurienti iniziali, ora sono ciecamente inconsapevoli che l'IA ha imboccato il sentiero marcio di AI For Bad.Un mezzo per prevenire o almeno catturare questa emergenza indesiderabile sarebbe quello di integrare nell'IA una sorta di doppio controllo dell'IA etica.Un componente all'interno dell'IA è programmato per osservare il comportamento dell'IA e rilevare se l'ADM non etico sta iniziando a emergere.In tal caso, il componente potrebbe inviare un avviso agli sviluppatori di intelligenza artificiale o farlo a un'azienda che esegue il sistema di intelligenza artificiale.Una versione più avanzata di questo componente potrebbe tentare di riparare l'IA.Si tratterebbe di un adeguamento degli adeguamenti, riconducendo gli aspetti non etici che emergono nei propri parametri etici.Puoi immaginare che questo tipo di programmazione sia complicato.C'è la possibilità che possa andare fuori strada, forse trasformandosi da non etico a profondamente non etico.C'è anche la possibilità che un falso positivo faccia scattare il componente in azione e magari incasinare le cose di conseguenza.Ad ogni modo, senza impantanarci su come funzionerebbe questo doppio controllo, faremo una dichiarazione audace al riguardo.Potresti suggerire che, in qualche modo, si dice che l'IA sia consapevole di sé.Yikes, quelle sono parole combattive per molti.La convinzione prevalente di quasi tutti è che l'IA di oggi non sia consapevole di sé.Punto, punto.Fino a quando non raggiungiamo l'IA senziente, che non sappiamo se o quando accadrà, non esiste alcun tipo di IA che sia autoconsapevole.Non almeno nel significato di autocoscienza orientata all'uomo.Non suggerire nemmeno che possa succedere.Sono certamente d'accordo sul fatto che dobbiamo stare attenti all'antropomorfizzazione dell'IA.Dirò di più su questa preoccupazione tra un momento.Nel frattempo, se per amor di discussione sarai disposto a usare la fase di "autoconsapevolezza" in modo sciocco, credo che tu possa facilmente capire perché si potrebbe dire che l'IA si attiene alla nozione generale di auto-autostima consapevolezza.Abbiamo una parte dell'IA che monitora il resto dell'IA, tenendo d'occhio ciò che il resto dell'IA sta facendo.Quando il resto dell'IA inizia a esagerare, la parte di monitoraggio cerca di rilevarlo.Inoltre, la parte di monitoraggio dell'IA o il doppio controllo potrebbero riportare il resto dell'IA nelle corsie corrette.Non sembra un po' come l'atto di guardare quei video di gatti e avere l'autocoscienza che stavi facendo così?C'è un suono familiare.Possiamo estenderlo ancora di più.Il componente del doppio controllo dell'IA non è solo programmato per osservare il comportamento del resto dell'IA, ma rileva anche il comportamento di coloro che stanno utilizzando l'IA.Come si comportano gli utenti quando utilizzano l'IA?Supponiamo che alcuni utenti esprimano indignazione per il fatto che l'IA sembra discriminarli.Il doppio controllo dell'IA potrebbe essere in grado di cogliere questo, usandolo come un'altra bandiera rossa sul fatto che il resto dell'IA si smarrisca.Questo fa emergere le categorizzazioni dell'autoconsapevolezza interna e dell'autoconsapevolezza esterna.Il doppio controllo dell'IA sta scansionando internamente ed esternamente per capire se il resto dell'IA si è diretto in mari preoccupanti.Il rilevamento solleverà una bandiera o causerà l'esecuzione di un'autocorrezione.Aggiungiamo un'altra estensione un po' sbalorditiva.Costruiamo un altro doppio controllo AI che ha lo scopo di ricontrollare il doppio controllo AI di base.Perchè così?Bene, supponiamo che il doppio controllo dell'IA sembri vacillare o non riesca a fare il suo lavoro.Il doppio controllo AI del doppio controllo cercherebbe di rilevare questo malfunzionamento e intraprendere le azioni necessarie di conseguenza.Benvenuti nella natura ricorsiva dell'autocoscienza, alcuni potrebbero dichiarare con orgoglio, come mostrato in un sistema di intelligenza artificiale computazionale.Per quelli di voi che sono già al limite della questione, l'ultimo commento, per ora, è che potremmo provare a suggerire che se rendete i sistemi di intelligenza artificiale "autoconsapevoli", allora potenzialmente graviteranno verso un comportamento etico.Lo stanno facendo su base senziente?Decisamente, no.Lo fanno su base computazionale?Sì, anche se dobbiamo essere chiari sul fatto che non è dello stesso calibro di quello del comportamento umano.Se ti senti a disagio per il fatto che la nozione di autocoscienza sia stata erroneamente distorta per farla rientrare in uno schema computazionale, i tuoi dubbi su questo sono ben noti.Un'altra questione aperta è se dovremmo porre fine agli sforzi in corso di IA che sfruttano l'idea.Potresti sostenere in modo convincente che almeno sembra guidarci verso un risultato migliore di ciò che probabilmente farà l'IA.Dobbiamo però tenere gli occhi ben aperti mentre questo accade.Immagino che dovremo vedere come andrà a finire.Torna su questo tra cinque anni, dieci anni e cinquant'anni e vedi se il tuo pensiero è cambiato sulla questione controversa.Mi rendo conto che questo è stato un esame alquanto inebriante dell'argomento e potresti desiderare ardentemente alcuni esempi quotidiani.C'è un insieme speciale e sicuramente popolare di esempi che mi stanno a cuore.Vedete, nella mia qualità di esperto di IA, comprese le ramificazioni etiche e legali, mi viene spesso chiesto di identificare esempi realistici che mettano in mostra i dilemmi dell'etica dell'IA in modo che la natura in qualche modo teorica dell'argomento possa essere colta più facilmente.Una delle aree più suggestive che presenta vividamente questo dilemma etico dell'IA è l'avvento delle vere auto a guida autonoma basate sull'IA.Questo servirà come un pratico caso d'uso o un esempio per un'ampia discussione sull'argomento.Ecco quindi una domanda degna di nota che vale la pena considerare: l'avvento delle vere auto a guida autonoma basate sull'intelligenza artificiale illumina qualcosa sul fatto che l'IA abbia una parvenza di "consapevolezza di sé" e, in tal caso, cosa mostra questo?Concedimi un momento per disfare la domanda.Innanzitutto, nota che non c'è un guidatore umano coinvolto in una vera auto a guida autonoma.Tieni presente che le vere auto a guida autonoma sono guidate tramite un sistema di guida AI.Non è necessario un guidatore umano al volante, né è previsto che un essere umano guidi il veicolo.Per la mia copertura ampia e continuativa sui veicoli autonomi (AV) e in particolare sulle auto a guida autonoma, vedere il collegamento qui.Vorrei chiarire ulteriormente cosa si intende quando mi riferisco alle vere auto a guida autonoma.Comprendere i livelli delle auto a guida autonomaA titolo di chiarimento, le vere auto a guida autonoma sono quelle in cui l'IA guida l'auto da sola e non c'è assistenza umana durante l'attività di guida.Questi veicoli senza conducente sono considerati di livello 4 e di livello 5 (vedi la mia spiegazione a questo link qui), mentre un'auto che richiede un guidatore umano per condividere lo sforzo di guida è generalmente considerata di livello 2 o di livello 3. Le auto che co-condividono condividere l'attività di guida sono descritti come semi-autonomi e in genere contengono una varietà di componenti aggiuntivi automatici denominati ADAS (Advanced Driver-Assistance Systems).Non esiste ancora una vera auto a guida autonoma al Livello 5, di cui non sappiamo ancora nemmeno se sarà possibile ottenerla, né quanto tempo ci vorrà per arrivarci.Nel frattempo, gli sforzi di Livello 4 stanno gradualmente cercando di ottenere un po' di trazione sottoponendosi a prove su strade pubbliche molto ristrette e selettive, anche se c'è controversia sul fatto che questo test debba essere consentito di per sé (siamo tutti cavie di vita o di morte in un esperimento che si svolgono sulle nostre autostrade e strade secondarie, alcuni sostengono, vedi la mia copertura a questo link qui).Poiché le auto semiautonome richiedono un guidatore umano, l'adozione di questi tipi di auto non sarà notevolmente diversa dalla guida di veicoli convenzionali, quindi non c'è molto di nuovo di per sé da trattare su questo argomento (anche se, come vedrai tra un momento, i punti seguenti sono generalmente applicabili).Per le auto semiautonome, è importante che il pubblico sia avvertito di un aspetto inquietante che si è manifestato ultimamente, ovvero che nonostante quei conducenti umani continuano a pubblicare video di se stessi che si addormentano al volante di un'auto di livello 2 o di livello 3 , dobbiamo tutti evitare di essere indotti in errore nel credere che il conducente possa distogliere la sua attenzione dal compito di guida mentre guida un'auto semi-autonoma.Sei la parte responsabile delle azioni di guida del veicolo, indipendentemente da quanta automazione potrebbe essere lanciata in un Livello 2 o Livello 3.Auto a guida autonoma e intelligenza artificiale con la cosiddetta autoconsapevolezzaPer i veri veicoli a guida autonoma di Livello 4 e Livello 5, non ci sarà un conducente umano coinvolto nell'attività di guida.Tutti gli occupanti saranno passeggeri.L'IA sta guidando.Un aspetto da discutere immediatamente riguarda il fatto che l'IA coinvolta nei sistemi di guida dell'IA di oggi non è senziente.In altre parole, l'IA è del tutto un collettivo di programmazione e algoritmi basati su computer e sicuramente non è in grado di ragionare nello stesso modo in cui possono farlo gli esseri umani.Perché questa enfasi aggiunta sul fatto che l'IA non è senziente?Perché voglio sottolineare che quando si discute del ruolo del sistema di guida dell'IA, non sto attribuendo qualità umane all'IA.Tieni presente che in questi giorni c'è una tendenza in corso e pericolosa a antropomorfizzare l'IA.In sostanza, le persone assegnano una sensibilità simile a quella umana all'IA di oggi, nonostante il fatto innegabile e indiscutibile che tale IA non esiste ancora.Con questo chiarimento, puoi immaginare che il sistema di guida AI non "sarà" in modo nativo in qualche modo degli aspetti della guida.La guida e tutto ciò che comporta dovrà essere programmata come parte dell'hardware e del software dell'auto a guida autonoma.Immergiamoci nella miriade di aspetti che entrano in gioco su questo argomento.Innanzitutto, è importante rendersi conto che non tutte le auto a guida autonoma IA sono uguali.Ogni casa automobilistica e azienda tecnologica a guida autonoma sta adottando il suo approccio per ideare auto a guida autonoma.In quanto tale, è difficile fare affermazioni radicali su ciò che i sistemi di guida dell'IA faranno o non faranno.Inoltre, ogni volta che si afferma che un sistema di guida AI non fa qualcosa in particolare, questo può, in seguito, essere superato dagli sviluppatori che di fatto programmano il computer per fare proprio quella cosa.Passo dopo passo, i sistemi di guida dell'IA vengono gradualmente migliorati ed estesi.Una limitazione esistente oggi potrebbe non esistere più in una futura iterazione o versione del sistema.Confido che fornisca una litania sufficiente di avvertimenti per sottolineare ciò che sto per riferire.Ora siamo pronti per fare un tuffo profondo nelle auto a guida autonoma e nelle questioni etiche dell'IA che implicano l'inquietante idea che l'IA abbia una sorta di autocoscienza, se vuoi.Usiamo un esempio facilmente semplice.Un'auto a guida autonoma basata sull'intelligenza artificiale è in corso nelle strade del tuo quartiere e sembra guidare in sicurezza.All'inizio, hai dedicato un'attenzione speciale a ogni volta che sei riuscito a intravedere l'auto a guida autonoma.Il veicolo autonomo si è distinto per il suo rack di sensori elettronici che includeva videocamere, unità radar, dispositivi LIDAR e simili.Dopo molte settimane in cui l'auto a guida autonoma gira per la tua comunità, ora te ne accorgi a malapena.Per quanto ti riguarda, è solo un'altra macchina sulle strade pubbliche già trafficate.Affinché non pensiate che sia impossibile o non plausibile familiarizzare con le auto a guida autonoma, ho scritto spesso di come i luoghi che rientrano nell'ambito delle prove di auto a guida autonoma si siano gradualmente abituati a vedere i veicoli rinnovati, vedere la mia analisi a questo link qui.Molti dei locali alla fine sono passati dall'essere rapiti a bocca aperta a guardare a bocca aperta e ora emettendo un ampio sbadiglio di noia per assistere a quelle tortuose auto a guida autonoma.Probabilmente il motivo principale in questo momento per cui potrebbero notare i veicoli autonomi è il fattore di irritazione ed esasperazione.I sistemi di guida basati sull'intelligenza artificiale assicurano che le auto rispettino tutti i limiti di velocità e le regole della strada.Per i frenetici conducenti umani nelle loro tradizionali auto a guida umana, a volte ti irriti quando sei bloccato dietro le auto a guida autonoma rigorosamente basate sull'intelligenza artificiale.È qualcosa a cui tutti potremmo aver bisogno di abituarci, a torto oa ragione.Torniamo al nostro racconto.Un giorno, supponiamo che un'auto a guida autonoma nella tua città si avvicini a un segnale di stop e non sembri rallentare.Cielo, sembra che il sistema di guida dell'IA farà sì che l'auto a guida autonoma superi il segnale di stop.Immagina se un pedone o un ciclista si trovasse da qualche parte nelle vicinanze e venisse colto alla sprovvista dal fatto che l'auto a guida autonoma non si sarebbe fermata come si deve.Vergognoso.Pericoloso!Consideriamo ora un componente AI nel sistema di guida AI che agisce come uno stile di doppio controllo autocosciente.Ci prenderemo un momento per approfondire i dettagli di ciò che sta accadendo all'interno del sistema di guida AI.Si scopre che le telecamere montate sul veicolo autonomo hanno rilevato quello che sembrava forse un segnale di stop, anche se in questo caso un albero troppo cresciuto oscura abbondantemente il segnale di stop.Il sistema di Machine Learning e Deep Learning, originariamente addestrato sui segnali di stop, è stato ideato su schemi principalmente di segnali di stop completi, generalmente liberi.Dopo aver esaminato computazionalmente le immagini video, è stata assegnata una bassa probabilità che esistesse un segnale di stop in quel punto particolare (come ulteriore complicazione e ulteriore spiegazione, si trattava di un segnale di stop appena pubblicato che non appariva sulle mappe digitali preparate in precedenza che il su cui si basava il sistema di guida AI).Tutto sommato, il sistema di guida dell'IA ha determinato computazionalmente di procedere come se il segnale di stop fosse inesistente o forse un segnale di altro tipo che forse assomigliava a un segnale di stop (questo può accadere e accade con una certa frequenza).Ma, per fortuna, il doppio controllo autocosciente dell'IA stava monitorando le attività del sistema di guida dell'IA.Dopo aver esaminato computazionalmente i dati e la valutazione da parte del resto dell'IA, questo componente ha scelto di ignorare il normale corso del procedimento e ha invece ordinato al sistema di guida dell'IA di fermarsi adeguatamente.Nessuno è rimasto ferito e non è sorto alcun atto illegale.Si potrebbe dire che il doppio controllo autocosciente dell'IA ha agito come se fosse un agente legale incorporato, cercando di garantire che il sistema di guida dell'IA rispettasse la legge (in questo caso, un segnale di stop).Naturalmente, anche la sicurezza era fondamentale.Si spera che quell'esempio mostri come potrebbe funzionare il doppio controllo autoconsapevole dell'IA concepito.Possiamo quindi considerare brevemente un esempio di IA etica più prominente che illustra come il doppio controllo autocosciente dell'IA potrebbe fornire una funzionalità incorporata orientata all'intelligenza artificiale.In primo luogo, come sfondo, una delle preoccupazioni che sono state espresse sull'avvento delle auto a guida autonoma basate sull'intelligenza artificiale è che potrebbero finire per essere utilizzate in un modo discriminatorio alquanto involontario.Ecco come.Supponiamo che quelle auto a guida autonoma siano impostate per cercare di massimizzare il loro potenziale di guadagno, il che ha decisamente senso per coloro che gestiscono una flotta di auto a guida autonoma disponibili in condivisione di corse.Il proprietario della flotta vorrebbe avere un'operazione redditizia.Potrebbe essere che in una determinata città, le auto a guida autonoma in roaming inizino gradualmente a servire alcune parti della comunità e non altre aree.Lo fanno per un obiettivo di guadagno, in quanto le aree più povere potrebbero non produrre entrate come le parti più ricche del luogo.Questa non è un'aspirazione esplicita di servire alcune aree e non di servire altre.Sorge invece organicamente per quanto riguarda l'IA delle auto a guida autonoma "capire" computazionalmente che c'è più denaro da guadagnare concentrandosi sulle aree geograficamente più pagate.Ho discusso di questa preoccupazione etica sociale nella mia colonna, come al link qui.Cosa fare?