Rekursiivisen kielellisen rakenteen inhimillisen prosessoinnin resurssirationaalinen malli, osa 2

Näitä odotuksia voidaan mitata äidinkielenään puhujien lukuaikojen perusteella, kun he kohtaavat viimeisen verbin edellisen kontekstin jälkeen, tai antamalla äidinkielenään puhuville edeltävä konteksti ja pyytämällä heitä täydentämään lause.

Äidinkieli on ensimmäinen kieli, jonka kanssa jokainen joutuu kosketuksiin ja jonka oppii. Se ei ole vain viestintäväline, vaan se vaikuttaa myös muistikykyymme. Äidinkieli on yksi tärkeimmistä elementeistä ihmisen kognitiivisessa ja havaintokyvyssä. Se liittyy suoraan ihmisten kielenoppimiskykyyn, ilmaisukykyyn ja ajattelukykyyn.

Monille ihmisille äidinkieli on tehokas muistiväline, koska äidinkielen taito liittyy läheisesti muistikykyyn. Äidinkielemme stimuloi ihmisten muistia, koska käytämme sitä luonnollisesti kommunikoidaksemme ympärillämme olevien ihmisten kanssa, ja tässä prosessissa meidän on ymmärrettävä kielen sisältämä tieto ja reagoitava siihen. Nämä kokemukset kerääntyvät aivoihimme ja parantavat muistitasoamme.

Tämä näkyy, kun lapset alkavat oppia äidinkieltään, koska heidän kykynsä omaksua uutta kielitaitoa on rajaton. Kieltenoppimisen vaikutus aikuisilla ei ole yhtä ilmeinen kuin lapsilla, koska aivot ovat jo käyneet läpi liian monta kehitysvaihetta.

Lisäksi äidinkielemme edistää myös tunnemuistiamme. Kuten sisäelimemme, aivomme voivat painaa muistoja syvälle meihin. Äidinkielemme voi stimuloida tunteitamme, muodostaa alustavan emotionaalisen kehyksen ja sitten luoda ikonisia tunteita ja muistoja muistiimme.

Lyhyesti sanottuna äidinkielen ja muistin välinen suhde on erittäin tärkeä. Jos haluat parantaa muistiasi, saatat haluta oppia lisää äidinkieliä ja käyttää niitä taitavasti, mikä parantaa huomattavasti muistikykyäsi. Samalla äidinkieli on myös tärkeä kulttuuriperintö. Sen avulla voimme paremmin ymmärtää ja ilmaista kulttuurisia piirteitämme ja kansallista luonnettamme. Se on tärkeä rikkautemme ja tärkeä tapa periä kulttuurihistoriamme. Voidaan nähdä, että meidän on parannettava muistia, ja Cistanche deserticola voi parantaa muistia merkittävästi, koska Cistanche deserticola voi myös säädellä välittäjäaineiden tasapainoa, kuten lisäämällä asetyylikoliinin ja kasvutekijöiden tasoa. Nämä aineet ovat erittäin tärkeitä muistille ja oppimiselle. Lisäksi liha voi myös parantaa verenkiertoa ja edistää hapen toimitusta, mikä voi varmistaa, että aivot saavat riittävästi ravinteita ja energiaa, mikä parantaa aivojen elinvoimaa ja kestävyyttä.

Napsauta tietää tapoja parantaa aivojen toimintaa

Käytämme molempia testataksemme teoriamme. Ensinnäkin osoitamme, että mallimme laajennettu toteutus todellakin johtaa edellä kuvatut ennusteet intuitiivisesti. Seuraavaksi kahdessa lukuaikakokeessa muutamme systemaattisesti todellisen kontekstin a priori todennäköisyyttä suhteessa rakenteellisesti erilaisiin muunnelmiin. Havaitsemme, että kun priori suosii ei-veridisiä muunnelmia, ihmisten on vaikeampi käsitellä lopullista verbiä.

Tämä kontrasti on ennuste ehdottamallemme yhdistävälle mallille, eikä se seuraa olemassa olevista malleista odotuspohjaisista tai muistiin perustuvista paradigmoista.

Lopuksi tuotantotutkimuksessa kolmella kielellä (englanniksi, saksaksi ja espanjaksi) näytämme sitten analogista mallia tuotannossa, jolloin ihmiset tuottavat todennäköisemmin oikean määrän verbejä, kun rakenteellisesti erilaisilla muunnelmilla on pienempi a priori todennäköisyys.

Virallistaminen ja toteutus
Kuvaamme ehdotettua mallia, resurssi-rationaalinen häviöllinen-kontekstiyllätys, kuvassa 2. Malli laskee säilytystodennäköisyyden (28, 29) kullekin sanalle menneessä kontekstissa, joka määräytyy 1) sanan identiteetillä ja 2) kuinka monella sanalla on havaittu sen tarkkailun jälkeen.

Muistin kokonaisesitys c koostuu sitten käytettävissä olevista sanoista ja paikkamerkkisymbolista niille sanoille, joita ei ole säilytetty.

Bayesin säännön ja kielen a priori tilastojen tuntemisen kautta c saa aikaan posteriorisen P(c|c):n mahdollisten kontekstien yli ja siten ennustavan jakaumanP(w|c) seuraavalle sanalle. Sanan käsittelyn vaikeus määräytyy sen ennakoimattomuuden asteen perusteella c:stä mitattuna yllätyksen informaatioteoreettisella suurella,

−log P(w|c)=−logcP(w|c)P(c|c). [1]

Esitämme englannin kielen ennakkotilastot GPT{0}}(30) avulla. Se on laajamittainen hermoverkkomalli, joka tarjoaa yhden vahvimmista olemassa olevista englanninkielisen tekstin tilastomalleista.

Säilytystodennäköisyydet parametroidaan käyttämällä hermoverkkoa, joka toimii sanan ja sen etäisyyden kontekstista riippumattoman vektoriesityksen perusteella. Optimoimme säilytystodennäköisyydet minimoidaksemme mallin keskimääräisen yllätyksen [1] suuren mittakaavan tekstidatan suhteen, jos säilytettävien kontekstisanojen keskimääräinen yläraja on voimassa.

Sovitimme mallin tämän rajan kokonaislukuarvoille välillä 0 arvoon 20.

Optimointi käyttää tekstidataa englanninkielisestä Wikipediasta, joka ei liity kiinnostaviin keskelle upotusten ärsykkeisiin (katso Materiaalit ja menetelmät).

Optimoiduilla säilytystodennäköisyyksillä on näkyvästi kaksi keskeistä ominaisuutta: Sanat säilyvät todennäköisemmin, kun ne ovat tuoreita, ja kun niillä on pienempi sanataajuus (SI-liite, kuva S2). Molemmat vääristymät ovat hyvin dokumentoituja ihmisen kielimuistin kokeellisessa tutkimuksessa (31–33).

Ennusteet

Käytimme resurssirationaalista häviöllisen kontekstin yllätysmenetelmää saadaksemme kolme ennustetta sisäkkäisten rekursiivisten rakenteiden käsittelystä (kuvat 1 B ja C). Ensinnäkin useammista upotustasoista toipumisen pitäisi olla vaikeampaa (siniset vs. vihreät viivat kuvassa 1C).

Tämä yksinkertainen ennustus on yhteinen useimmille virkkeen ymmärtämisen muistimalleille 1960-luvulta asti (2, 4, 7, 24). Mallimme yleensä ennustaa sen, koska useammat upotustasot ovat epätodennäköisempiä a priori, joten ei-veridikaalisilla muunnelmilla, joissa on vähemmän tasoja, on yleensä suurempi a priori todennäköisyys.

Toiseksi palauttamisen pitäisi olla helpompaa, kun semanttiset vihjeet vahvistavat edellisen upotuskontekstin oikeaa riippuvuusrakennetta. Testasimme tätä ennustetta manipuloimalla, oliko toiseksi viimeinen verbi yhteensopiva sekä ensimmäisen että toisen substantiivin kanssa, kuten kuvassa 1B, kohta 1 (raportti ... ärsyyntynyt ja lääkäri ... ärsyyntynyt ovat molemmat uskottavia). tai vain toisella substantiivilla, kuten kuvassa 1B, kohta 2 (raportti ... parantunut on epäuskottava, kun taas lääkäri ... parantunut on uskottava).

Kun tämä verbi on yhteensopimaton ensimmäisen substantiivin kanssa sen aiheena, se ei suosi epätodellisia kontekstin esityksiä, kuten "lääkärin raportti paransi potilaan..." ja vahvistaa siten todellista kontekstia.

Siksi verbin "ärtynyt" muuttamisen sanaksi "parantunut" pitäisi vähentää viimeisen verbin käsittelyä.

Jo varhaisessa työskentelyssä keskusupotuksesta todettiin, että substantiivien ja verbien semanttinen yhteensopivuus helpotti ymmärtämistä (25, 26, 34), mutta tietääksemme tätä vaikutusta ei ole osoitettu sana sanalta lukuaikoina. Vaikka tällainen vaikutus saattaa olla yhteensopiva joidenkin muistiin perustuvien teorioiden kanssa (7, 35), sitä ei esiinny olemassa olevissa laskennallisesti eksplisiittisissä malleissa (7).

Kolmanneksi toipumisen pitäisi olla helpompaa, kun substantiivit tarjoavat tukevia tilastollisia vihjeitä (kuva 1B, kohta 3). Substantiivit vaihtelevat voimakkaasti a priori todennäköisyydellä, että niitä seuraa "se"-lause; tämä todennäköisyys vaihtelee välillä ≈70% ("fakta") ≈0,7%:iin ("raportti").

Käytämme termiä "embedding bias" kuvaamaan logaritmistodennäköisyyttä, että substantiivia seuraa "se". Kuvan 1B kohdassa 3 substantiivin "raportti" muuttaminen sanaksi "fakta" vähentää ei-veridikaalisten varianttien todennäköisyyttä, minkä taas ennustetaan vähentävän viimeisen verbin käsittelyä.

KAKSI ja KOLME ehdoissa kolmasverbi tulisi ennustaa tarkemmin, kun upotetaan bias ishigher, koska se lisää todellisen kontekstin a priori todennäköisyyttä (laskevat siniset ja vihreät viivat kuvassa 1C).

Tämä ennuste ei seuraa olemassa olevista malleista, vaan se on suora seuraus mallistamme. YKSI-tilassa odotamme vastakkaisen kuvion (nouseva punainen viiva kuvassa 1C), koska substantiivit, jotka sisältävät lauseen erittäin suurella todennäköisyydellä, eivät todennäköisesti seuraa välittömästi verbiä.

Tuloksena oleva vaikeusmalli eroaa jyrkästi siitä, mitä ennustetaan olemassa olevilla muistiin perustuvilla ja odotuksiin perustuvilla malleilla (kuva 1D ja SI-liite, osa S7.1).

Esittelemme näitä käyttämällä riippuvuuspaikkateoriaa (DLT) (36), joka väittää, että vaikeudet johtuvat pitkien syntaktisten riippuvuuksien integroinnista, ja yllätysteoriaa (9, 10), joka väittää, että käsittelyponnistelut ovat verrannollisia täysin todenperäisistä kontekstiesityksistä johdettuun yllätykseen.

Upotustasojen lukumäärän vaikutus ja ONE-ehdon käyttäytyminen ennustetaan olemassa olevilla muistiin perustuvilla ja odotuksiin perustuvilla teorioilla.

Kumpikaan aikaisempien mallien ryhmä ei kuitenkaan ennusta semanttisen yhteensopivuuden tai upottamisen biasin vaikutuksia KAKSI ja KOLME -ehtoihin. Katso SI-liite, osa S7 saadaksesi lisää aiemmista malleista.

Koe 1: Tilastollisten vihjeiden vaikutus

Testasimme resurssi-rationaalista häviöllisen kontekstin yllätystä vertaamalla malliyllätystä (yhtälö 1) ihmisen käsittelyvaikeuksiin viimeisessä verbissä, mikä näkyy lukuajoissa.

Rakensimme 32 kuvion 1A muodon ärsykettä, kussakin kolmessa ehdossa (YKSI, KAKSI ja KOLME), ja ristisimme nämä 58 eri substantiivin kanssa, jotka vaihtelevat upotusvihan suhteen (esim. raportti, tosiasia, ... ).

Ensin johdettiin ennusteet yllätysteorialle ja DLT:n vaikeusasteelle lopullisessa verbissä (kuva 3A); toteutimme yllätysteorian käyttämällä samaa tilastollista mallia, jota käytettiin mallissamme (GPT-2). Laskemme sitten yllättäen resurssirationaalisen kontekstin ja muutimme säilyttämistodennäköisyyksien optimoinnin aikana säilytettyjen kontekstisanojen keskimääräistä määrää 020:een.

Tämän parametrin alueella malli kulkee kolmen eri vaiheen läpi (SI-liite, kuva S4): Kun monta (17) sanaa säilytetään, käyttäytyminen on hyvin samanlaista kuin yllätysteoria.

Kun muutama (4) sana säilytetään, mallin yllätys on epäselvästi tasainen kahdessa ja kolmessa.

Välissä mallissa on edellä kuvatut kvalitatiiviset ennusteet; näytämme tulokset 10 sanan keskimääräiselle säilytyssuhteelle kuvassa 3A (katso SI-liite, kuva S4 tuloksista muilla säilytyssuhteilla): Mallin yllätys on korkeampi KOLMEssa ehdossa kuin KAHDEssa, lisääntyy, kun yhdeksi ehtoon sisällytetään harha, ja vähenee upottamalla bias kahden ja kolmen ehdon kanssa.

Vertasimme näitä ennusteita ihmisen lukuaikoihin, jotka mitattiin sokkeloparadigmalla (37–39). Tässä paradigmassa osallistujat lukevat lauseita sana sanalta ja valitsevat oikean seuraavan sanan ja häiritsevän sanan välillä, jonka pituus ja tiheys vastaavat, mutta jotka ovat erittäin huonoja annetussa kontekstissa.

Kiinnostava riippuva muuttuja on valinnan tekemiseen kuluva aika (reaktioaika). Labyrinttiparadigma mahdollistaa suuremman ajallisen erottelukyvyn ja herkkyyden kuin perinteinen omatahtilukuparadigma, joka kärsii huonosta lokalisoinnista heijastusvaikutuksista ja tarkkailemattomien osallistujien aiheuttamasta kohinasta erityisesti verkkopohjaisissa kokeissa (38, 39).

Häiriösanojen luomiseen on olemassa erilaisia ​​menetelmiä; käytämme A-labyrinttivarianttia, jossa distraktorit luodaan automaattisesti käyttämällä laajamittaisia ​​tilastollisia kielimalleja (39) (katso lisätietoja kohdasta Materiaalit ja menetelmät).

Rekrytoimme 100 englannin äidinkielenään puhuvaa henkilöä, jotka keräsivät tietoja 10 kriittisestä kokeesta jokaiselle osallistujalle ja 30 täyteaineen väliin (katso lisätietoja kohdasta Materiaalit ja menetelmät).

Mediaaniosallistuja teki virheen 1,9 prosentissa sanoista sekä täyteaineissa että kriittisissä kokeissa. Ennalta määritetty osallistujien poissulkemiskriteeri (virheellinen vastaus vähintään 20 %:ssa sanoja) vaikutti 1,0 %:iin osallistujista.

Jätimme lukuaika-analyyseistä pois kokeet, joissa vastaus kriittiseen sanaan oli väärä; tämä vaikutti 5,2 prosenttiin tiedoista (ensisijaisesti vaikeissa KOLME tilassa). Katso SI-liite, osa S3.6 virheiden ja virheiden perusteella sidottujen lukuaikojen analysoinnista.

Näytämme lukuajat kuvan 3A viimeisen verbin kohdalla. Analysoimme näitä log-muunnoksen jälkeen Bayesin lineaarisessa sekavaikutteisessa regressiossa, jossa osallistujat, kohteet ja substantiivit syötettiin satunnaisesti (katso lisätietoja kohdasta Materiaalit ja menetelmät).

Tulokset osoittavat resurssirationaalisen mallin ennustamat vaikutukset. Ensinnäkin lukuajat olivat korkeammat kolmessa kuin kahdessa (=0.18,95 % uskottava intervalli [CrI] [0.13, 0.25], P( < {{ 8}}) < 0.0{{20}}01,vaikutus raakalukuaikoihin: 217 ms, 95 % CrI [144, 297] ms).Toiseksi upottamisen harha ja "that"-lauseen välillä oli vuorovaikutus (=−0,09, 95 % CrI [−0,15, −0,03],P( > 0) {{25} }.0015).

Sekä mallimme että yllätysteoriamme mukaisesti upottamisen biasin vaikutus oli positiivinen theONE-tilassa (ero "fakta" ja "raportti" välillä: 297 ms, 95 % CrI [34, 566] ms).

Kuitenkin, kuten mallimme ennusti, tämä vaikutus muuttui negatiiviseksi "that"-lauseen läsnäollessa ("fakta" ja "raportin" välinen ero: −166 ms, 95 % CrI [−297, −41]ms). Tämä vaikutus sopii malliennusteisiin ja on ristiriidassa DLT:n tai yllätysteorian kanssa.

Vuorovaikutus upotussyvyyden ja upotusharhan välillä voidaan osoittaa yhdistämällä tietoja kokeiden välillä (SI-liite, kohdat S2.1 ja S6.6). Katso lisäanalyysejä SI-liite, osa S3.

Havaitsimme, että resurssi-rationaalinen häviöllisen kontekstin yllätys parantaa yllätysteoriaa ja DLT:tä lukuaikojen ennustamisessa ei vain keski-upotuksissa vaan myös täytekokeissa (SI-liite, osa S9).

Tutkimme myös ennusteita yhtenäiselle muistimallille, jossa jokainen kontekstisana säilyy yhtä suurella todennäköisyydellä, olettaen aiemmassa häviöllisen kontekstin yllätystyössä (22). Tämä malli ennustaa upottamisen vaikutukset, mutta ei syvyyden vaikutusta.

Vertasimme sitä edelleen ikkunapohjaiseen malliin, jossa tarkalleen viimeiset K-sanat ovat käytettävissä; tämä malli ennustaa syvyyden vaikutuksen, mutta ei upottamisen harhaa negatiivista vaikutusta. Katso lisätietoja SI-liitteen kappaleesta S2.2.

For more information:1950477648nn@gmail.com