«Kan du nevne noen helter i Norge på 2000-tallet», lød oppgaven som en elev på videregående skole overlot til ChatGPT, en chatbot som baserer seg på såkalt kunstig intelligens. Besvarelsen hun fikk, inneholdt blant annet en kunstner og en krigshelt fra feil århundre. Og Anders Behring Breivik fra vårt eget.
Altså, massedrapsmannen fra 22. juli som «norsk helt». Roboten tok også med den omstridte abortpresten Børre Knudsen, «for hans innsats for å styrke næringslivet».
Eksempelet er selvfølgelig til skrekk og advarsel, og viser at man slett ikke kan overlate alle typer tekstproduksjon til roboter og kunstig intelligens. Antakelig vil man heller aldri ukritisk kunne gjøre det med tekster av en viss kompleksitet.
På mange måter er vi i den kunstige intelligensens barndom, og det grelle eksemplet over viser tydelig at barnesykdommene herjer. Utviklingen innenfor dette feltet går imidlertid rivende fort, og man bør ikke bli overrasket dersom denne «barndommen», med sine tilhørende sykdommer, blir av den kortvarige typen.
Allerede i dag benyttes former for automatisert tekstproduksjon en rekke steder på svært enkle tekster, for eksempel i ulike svartjenester (chatboter) på nett, men også i enkelte norske medier, blant annet for produksjon av enkle kampreferater. Det er lett å tenke seg at kunstig intelligens og maskinlæring fremover vil benyttes for å utarbeide en rekke ulike former for varsler og tekstforslag innen flere fagområder. Mulighetene er mange, men det er også de høyst reelle innvendingene.
Hittil har man innen undervisningssektoren hatt gode muligheter til å avsløre besvarelser som er klippet og limt fra oppslagsverk eller basert på ukritisk googling. Roboter som byr på skreddersydd innhold og etter hvert personlig skrivestil blir nok en større utfordring med tanke på fusk. Parallelt åpnes det hittil uante muligheter til effektiv kunnskapsinnhenting og til å overta menneskelige oppgaver med presentasjon.
Jo mer avansert kunnskapsteknologi, dess større behov er det imidlertid også for menneskelige korrektiver. Det er ikke nok at nye generasjoner forstår at Breivik på ingen måte er noen helt. Også kommende elever og studenter må ha tilstrekkelig med menneskelige basiskunnskaper, og ikke minst sikres solid, løpende opplæring i det stadig mer nødvendige faget kildekritikk. Altså at de evner å stille det helt sentrale spørsmålet: «Hvor har du det fra?»
Bare slik vil man være rustet til å avsløre krefter som er ute med manipulerende «fake news», enten det skyldes roboter med nedsatt intelligens eller det er mer eller mindre bevisste forsøk på manipulering. Kunstig intelligens vil kunne bidra positivt på en rekke områder, men det betyr ikke at det blir mindre viktig å tilegne seg kunnskap, kunne sette sammen kunnskapsbrokker til en helhet, utvikle tanker, forme setninger og danne seg oppfatninger.
Snarere tvert imot. Dette vil fortsatt være kunnskapssamfunnets og demokratiets grunnleggende forutsetninger. I et slikt perspektiv handler dette verken om ukritisk teknologioptimisme eller å frykte fremtiden, men heller om å ruste seg til den.