Quando il mio primo figlio aveva solo due anni, amava già le auto, conosceva tutte le marche ei modelli (anche più di me, grazie ai miei amici), riuscivo a riconoscerli da una piccola parte dell'immagine. Tutti dicevano: genio. Anche se hanno notato la completa inutilità di questa conoscenza. E il figlio, nel frattempo, dormiva con loro, li arrotolava, li metteva esattamente in fila o in un quadrato.
Quando aveva 4 anni ha imparato a contare ea 5 poteva già moltiplicare e sommare entro 1000. Abbiamo anche giocato a Math Workout (questo gioco è su Android - mi piaceva calcolare in metropolitana dopo il lavoro), e ad un certo punto è diventato me solo così. E nel tempo libero contava fino a un milione, il che ha congelato coloro che lo circondavano. Genio! - hanno detto, ma sospettavamo che non fosse del tutto.
A proposito, nel mercato ha aiutato abbastanza bene sua madre: ha calcolato l'importo totale più velocemente dei venditori sulla calcolatrice.
Allo stesso tempo, non ha mai giocato in campo, non ha comunicato con i coetanei, non andava molto d'accordo con bambini e insegnanti all'asilo. In generale, era un bambino un po 'riservato.
Il passo successivo è stata la geografia: abbiamo cercato di incanalare l'amore per i numeri da qualche parte e abbiamo dato a nostro figlio un vecchio atlante sovietico. Ci si è immerso per un mese, dopodiché ha iniziato a farci domande complicate nello stile:
- Papà, quale paese pensi abbia una vasta area: Pakistan o Mozambico?
"Probabilmente Mozambico", ho risposto.
- Ma no! L'area del Pakistan è fino a 2.350 km2 in più, - rispose felicemente il figlio.
Video promozionale:
Allo stesso tempo, non era assolutamente interessato né ai popoli che abitavano in quei paesi, né alle loro lingue, né ai vestiti, né alla musica popolare. Solo numeri nudi: area, popolazione, volume delle riserve minerarie, ecc.
Tutti ammirarono di nuovo. "Intelligente oltre i suoi anni", hanno detto in giro, ma mi sono di nuovo preoccupato, perché Ho capito che questa è una conoscenza del tutto inutile, non legata all'esperienza di vita, e che è difficile continuare a sviluppare. La migliore applicazione di tutto ciò che ho trovato è stata una proposta per calcolare quante auto entreranno in un parcheggio se un determinato paese viene arrotolato con l'asfalto (senza tener conto del terreno montuoso), ma mi sono fermato rapidamente, perché sa di genocidio.
È interessante notare che a quel punto l'argomento delle auto era completamente scomparso, il figlio non ricordava nemmeno i nomi delle sue auto preferite dalla sua vasta collezione, che abbiamo iniziato a distribuire con una perdita di interesse. E poi iniziò a contare più lentamente nella sua mente e presto dimenticò le piazze dei paesi. Allo stesso tempo, ha iniziato a comunicare di più con i suoi coetanei, è diventato più contatto. Il genio è passato, gli amici hanno smesso di ammirare, il figlio è diventato solo un bravo studente con un debole per la matematica e le scienze esatte.
La ripetizione è la madre dell'apprendimento
Sembrerebbe a cosa serva tutto questo. Questo è visto in molti bambini. I loro genitori dichiarano a tutti che i loro figli sono geniali, le nonne ammirano e lodano i bambini per la loro "conoscenza". E poi diventano bambini normali, semplicemente intelligenti, non più geniali del figlio dell'amica di mia madre.
Mentre studiavo le reti neurali, ho riscontrato un fenomeno simile, e mi sembra che da questa analogia si possano trarre alcune conclusioni. Non sono un biologo o un neuroscienziato. Tutto oltre - le mie ipotesi senza la pretesa di essere particolarmente scientifiche. Sarei felice di ricevere commenti da professionisti.
Quando ho cercato di capire come mio figlio abbia imparato a contare più velocemente di me in modo così forte (ha completato un livello in Math Workout in 20,4 secondi, mentre il mio record era 21,9), mi sono reso conto che non conta affatto. Ha imparato che quando appariva 55 + 17, doveva premere 72. Su 45 + 38 doveva premere 83, e così via. All'inizio, ovviamente, contava, ma il salto di velocità è avvenuto nel momento in cui era in grado di ricordare tutte le combinazioni. E abbastanza rapidamente iniziò a memorizzare non iscrizioni specifiche, ma combinazioni di simboli. Questo è esattamente quello che insegnano a scuola, studiando la tavola pitagorica - ricorda la tavola di corrispondenza MxN -> P.
Si è scoperto che percepiva la maggior parte delle informazioni proprio come una connessione tra i dati di input e l'output, e quell'algoritmo molto generale che siamo abituati a scorrere per ottenere una risposta non era solo ridotto a un algoritmo altamente specializzato per il conteggio di numeri a due cifre. Ha svolto alcuni compiti eccellenti, ma molto più lentamente. Quelli. quello che tutti pensavano fosse fantastico era in realtà solo simulato da una rete neurale ben addestrata per un compito specifico.
Conoscenza extra
Perché alcuni bambini hanno la capacità di memorizzare in questo modo, mentre altri no?
Immagina il campo di interesse del bambino (qui affrontiamo la domanda in modo qualitativo, senza alcuna misurazione). A sinistra c'è il campo degli interessi di un bambino normale, ea destra c'è il campo degli interessi di un bambino "dotato". Come previsto, l'interesse principale è concentrato in aree per le quali particolari attitudini. Ma per le cose di tutti i giorni e la comunicazione con i coetanei, l'attenzione non è più sufficiente. Considera superflua questa conoscenza.
Gli interessi di un bambino normale di 5 anni.
Gli interessi di un bambino "brillante" di 5 anni.
In questi bambini, il cervello analizza e conduce la formazione solo su argomenti selezionati. Attraverso l'allenamento, la rete neurale del cervello deve imparare a classificare con successo i dati in arrivo. Ma il cervello ha molti, molti neuroni a sua disposizione. Molto più di quanto è necessario per il normale lavoro con compiti così semplici. Di solito, i bambini risolvono molti problemi diversi nella vita, ma qui tutte le stesse risorse vengono gettate in una gamma più ristretta di compiti. E la formazione in questa modalità porta facilmente a ciò che i professionisti ML chiamano overfitting. La rete, utilizzando un'abbondanza di coefficienti (neuroni), si è allenata in modo tale da fornire sempre esattamente le risposte necessarie (ma può dare del tutto assurdo sui dati di input intermedi, ma nessuno lo vede). Pertanto, l'allenamento non ha portato al fatto che il cervello ha selezionato le caratteristiche principali e le ha ricordate, ma al fatto che ha regolato molti coefficienti,per dare un risultato accurato su dati già noti (come nella foto a destra). Inoltre il cervello ha imparato così così su altri argomenti, essendosi allenato male (come nella foto a sinistra).
Cosa sono l'underfitting e l'overfitting?
Per coloro che non sono in argomento, te lo dirò molto brevemente. Quando si addestra una rete neurale, il compito è selezionare un certo numero di parametri (pesi di comunicazione tra neuroni) in modo che la rete risponda ai dati di addestramento (campione di addestramento) il più fedelmente e accuratamente possibile.
Se ci sono troppo pochi di questi parametri, la rete non sarà in grado di prendere in considerazione i dettagli del campione, il che porterà a una risposta molto approssimativa e media che non funziona bene anche sul campione di addestramento. Simile all'immagine in alto a sinistra. È sottodimensionato.
Con un numero adeguato di parametri, la rete darà un buon risultato, "inghiottendo" forti deviazioni nei dati di allenamento. Una tale rete risponderà bene non solo al campione di formazione, ma anche ad altri valori intermedi. Come l'immagine centrale sopra.
Ma se alla rete vengono forniti troppi parametri configurabili, si allenerà per riprodurre anche forti deviazioni e fluttuazioni (comprese quelle causate da errori), che possono portare a una completa assurdità quando si cerca di ottenere una risposta ai dati di input non dal campione di addestramento. Qualcosa di simile all'immagine in alto a destra. È overfitting.
Un semplice esempio illustrativo.
Supponiamo che tu abbia più punti (cerchi blu). È necessario disegnare una curva morbida per prevedere la posizione di altri punti. Se prendiamo, ad esempio, un polinomio, quindi a piccoli gradi (fino a 3 o 4), la nostra curva liscia sarà abbastanza precisa (curva blu). In questo caso, la curva blu potrebbe non passare per i punti originali (punti blu).
Tuttavia, se il numero di coefficienti (e quindi il grado del polinomio) viene aumentato, la precisione del passaggio dei punti blu aumenterà (o anche ci sarà un successo del 100%), ma il comportamento tra questi punti diventerà imprevedibile (vedi come fluttua la curva rossa).
Mi sembra che sia la tendenza del bambino a un argomento specifico (ossessione) e la completa ignoranza del resto degli argomenti che porta al fatto che quando si insegna troppi "fattori" vengono dati a questi stessi argomenti.
Considerando che la rete è configurata per dati di input specifici e non evidenzia le "caratteristiche", ma "ricorda" stupidamente i dati di input, non può essere utilizzata con dati di input leggermente diversi. L'applicabilità di una tale rete è molto limitata. Con l'età, gli orizzonti si allargano, l'attenzione diventa sfocata e non c'è più la possibilità di assegnare lo stesso numero di neuroni allo stesso compito: iniziano ad essere utilizzati in nuovi compiti più necessari per il bambino. Le "impostazioni" di quella rete overfitted crollano, il bambino diventa "normale", il genio scompare.
Naturalmente, se un bambino ha un'abilità che è utile di per sé e può essere sviluppata (ad esempio, musica o sport), allora il suo "genio" può essere mantenuto a lungo e persino portato queste abilità a livello professionale. Ma nella maggior parte dei casi questo non funziona e non ci sarà traccia di vecchie abilità entro 8-10 anni.
conclusioni
- hai un figlio geniale? passerà;)
- prospettiva e "genio" sono cose correlate, e sono collegate precisamente attraverso il meccanismo di apprendimento
- questo apparente "genio" molto probabilmente non è affatto un genio, ma l'effetto di un allenamento troppo forte del cervello su un compito specifico senza comprenderlo - solo tutte le risorse sono state dedicate a questo compito
- quando corregge gli interessi ristretti del bambino, il suo genio scompare
- se tuo figlio è "geniale" e un po 'più riservato dei coetanei, allora devi sviluppare ulteriormente queste stesse abilità con attenzione, sviluppando attivamente i tuoi orizzonti in parallelo e non concentrarti su queste abilità "fantastiche", ma di solito inutili
Autore: Sergey Poltorak
