L'idea che l'intelligenza artificiale ci condurrà inevitabilmente a uno scenario in cui le macchine si ribellano agli umani è piuttosto popolare. La superintelligenza artificiale sembra essere la più grande minaccia possibile e le storie fantastiche secondo le quali non saremo necessari in un mondo di proprietà della tecnologia non hanno mai perso popolarità.
È inevitabile?
La rappresentazione letteraria e cinematografica dei sistemi informatici intelligenti degli anni '60 ha contribuito a plasmare e riassumere le nostre aspettative per il futuro mentre ci imbarchiamo nel viaggio della creazione di intelligenza artificiale che supera l'intelligenza umana. L'intelligenza artificiale ha ovviamente già superato gli esseri umani in alcune attività specifiche che richiedono calcoli complessi, ma è ancora in ritardo in una serie di altre capacità. Come aumentare contemporaneamente la potenza di questo duro strumento e preservare la nostra posizione economica su di esso.
Poiché l'intelligenza artificiale gioca già e continuerà a svolgere un ruolo importante nel nostro futuro, è imperativo esplorare le nostre possibilità di coesistenza con queste tecnologie complesse.
Kevin Abosch, fondatore di Kwikdesk, una società di elaborazione dati e intelligenza artificiale, ha condiviso i suoi pensieri su questo. Crede che l'intelligenza artificiale dovrebbe essere veloce, poco appariscente, affidabile, colta ed etica. Sì, etico.
Quadro etico
Video promozionale:
Il concetto di una rete neurale artificiale, modellata su una rete neurale biologica, non è una novità. Le unità di potenza di calcolo, chiamate neuroni, si connettono tra loro per formare una rete. Ogni neurone applica un sofisticato algoritmo di apprendimento sull'input, prima di trasmettere i dati ad altri neuroni, fino a quando il neurone sull'uscita non viene attivato e apre la possibilità di lettura. I sistemi esperti si affidano alle persone per "insegnare" il sistema, piantando i semi della conoscenza. I motori logici cercano le corrispondenze, fanno scelte, impostano le regole if-this-then-then nella knowledge base. In questo processo, la nuova conoscenza viene aggiunta alla knowledge base. Una rete neurale pura impara nel processo di acquisizione di esperienza non lineare, non ha il problema di seminare la conoscenza da parte di un esperto. Le reti ibride si sono dimostrateche migliorano le capacità di apprendimento delle macchine.
Ora esaminiamo le questioni etiche di tali sistemi. Più lontano dalla prima persona.
"Codice errato" contro codice buono
L'autore usa le parole per immergere il lettore in un mondo immaginario e lo fa in modi diversi, ma i grandi autori lo fanno con molta grazia. Un ingegnere del software scrive righe di codice che facilitano l'elaborazione e lo spostamento dei dati. Anche lui può scegliere tra una serie di opzioni in modi diversi, ma i graziosi programmatori sono fanatici dell'informatica. Il programmatore in progresso si concentra su come incapsulare quanto più e meglio possibile in codice breve e pulito. Il codice ridondante è ridotto al minimo. Un ottimo codice mantiene la finestra aperta anche per future aggiunte. Altri ingegneri possono aggiungere codice con la loro intrinseca eleganza e il prodotto si sviluppa senza problemi.
Qualsiasi prodotto artificiale si basa sull'intenzione. Le cose fatte dalle persone sono sature di intenzioni e, in un modo o nell'altro, sono portatrici della natura stessa del creatore. Alcune persone trovano difficile immaginare un oggetto inanimato di questa natura. Ma molti sarebbero d'accordo con questo. L'energia delle intenzioni esiste da migliaia di anni, unifica, divide, unisce, trasforma la società. Né va sottovalutato il potere del linguaggio. Non dimenticare che le righe di codice sono scritte in un linguaggio di programmazione specifico. Pertanto, sono convinto che il codice che diventa software utilizzato su computer o dispositivi mobili sia molto "vivo".
Senza considerare la saggezza e la spiritualità nel contesto dell'informatica e le potenziali conseguenze dell'intelligenza artificiale, possiamo ancora vedere il codice statico nel suo insieme con il potenziale di "fare il bene" o "fare il male". Questi risultati si trovano solo nel processo di utilizzo delle applicazioni da parte delle persone. Sono le scelte chiare che le persone fanno che influenzano la natura dell'applicazione. Possono essere visualizzati in un sistema locale, determinando l'impatto positivo o negativo su quel sistema o in base a una serie di standard predefiniti. Tuttavia, proprio come un giornalista non può essere imparziale al 100% nel processo di scrittura di un articolo, così un ingegnere aggiunge volontariamente o inconsapevolmente la natura delle sue intenzioni al codice. Alcuni potrebbero obiettare che scrivere codice è un processo logico e che la logica reale non lascia spazio alla natura.
Ma sono sicuro che nel momento in cui crei una regola, un blocco di codice o tutto il codice, è tutto intriso di un elemento della natura umana. Con ogni regola aggiuntiva, la penetrazione della specie si approfondisce. Più il codice è complesso, più è di questa natura. Da qui la domanda: "Può la natura del codice essere buona o cattiva?"
Ovviamente, un virus sviluppato da un hacker che rompe maliziosamente le difese del tuo computer e semina il caos nella tua vita è saturo di una natura malvagia. Ma che dire di un virus creato dai bravi ragazzi per infiltrarsi nei computer di un'organizzazione terroristica per prevenire attacchi terroristici? Qual è la sua natura? Tecnicamente potrebbe essere identico alla sua controparte nefasta, usata solo per scopi "buoni". Quindi la sua natura è gentile? Questo è l'intero paradosso etico del malware. Ma non potevamo ignorarlo, pensando al codice "male".
A mio parere, esiste un codice che gravita intrinsecamente verso il "male" e c'è un codice che è intrinsecamente polarizzato verso la buona volontà. Questo è più importante nel contesto dei computer offline.
In Kwikdesk stiamo sviluppando un framework e un protocollo di intelligenza artificiale basati sul mio progetto ibrido sistema esperto / rete neurale, che assomiglia di più a un modello biologico. I neuroni si manifestano come moduli I / O e dispositivi virtuali (in un certo senso agenti autonomi) collegati da "assoni", canali protetti e separati di dati crittografati. Questi dati vengono decrittografati quando entrano nel neurone e dopo che determinati processi vengono crittografati prima di essere inviati al neurone successivo. Prima che i neuroni possano comunicare tra loro tramite un assone, deve avvenire uno scambio di chiavi tra il partecipante e il canale.
Credo che la sicurezza e la separazione dovrebbero essere integrate in tali reti dal livello più basso. Le sovrastrutture riflettono le qualità dei loro componenti più piccoli, quindi qualsiasi cosa più piccola dei blocchi di costruzione sicuri comporterà un funzionamento non sicuro dell'intera linea. Per questo motivo, i dati devono essere protetti localmente e decrittografati quando trasferiti localmente.
Attuazione e garanzie
La qualità della nostra vita insieme a macchine che stanno diventando sempre più intelligenti è comprensibilmente preoccupante e sono assolutamente fiducioso che dobbiamo agire per garantire un futuro sano per le generazioni a venire. Le minacce alle macchine intelligenti sono potenzialmente diverse, ma possono essere suddivise nelle seguenti categorie:
Prenotazione. Nei luoghi di lavoro, le persone saranno sostituite da macchine. Questo cambiamento va avanti da decenni e non farà che accelerare. È necessaria un'istruzione adeguata per preparare le persone a un futuro in cui centinaia di milioni di posti di lavoro tradizionali cesseranno semplicemente di esistere. È complicato.
Sicurezza. Ci affidiamo completamente alle macchine e continueremo a fare affidamento. Poiché ci fidiamo sempre più delle macchine mentre ci spostiamo da un'area sicura a una potenziale area di pericolo, potremmo affrontare il rischio di errori della macchina o codice dannoso. Pensa al trasporto, ad esempio.
Salute. Dispositivi diagnostici personali e dati medici in rete. L'intelligenza artificiale continuerà ad evolversi nella medicina preventiva e nell'analisi dei dati genetici in crowdsourcing. Ancora una volta, dobbiamo avere la certezza che queste macchine non si impegneranno in sovversioni dannose né ci danneggeranno in alcun modo.
Destino. L'intelligenza artificiale prevede con crescente precisione dove andrai e cosa farai. Man mano che quest'area si sviluppa, saprà quali decisioni prenderemo, dove andremo la prossima settimana, quali prodotti compreremo o anche quando moriremo. Vogliamo che altri abbiano accesso a questi dati?
Conoscenza. Le macchine di fatto accumulano conoscenza. Ma se acquisiscono la conoscenza più velocemente di quanto gli esseri umani possano metterla alla prova, come possiamo fidarci della sua integrità?
In conclusione, voglio sottolineare che un approccio vigile e responsabile all'IA per mitigare potenziali problemi in un'esplosione di supernova tecnologica è il nostro modo. O domeremo il potenziale dell'IA e pregheremo che porti solo il meglio all'umanità, oppure esauriremo il suo potenziale, che rifletterà il peggio in noi.
Ilya Khel
