Det var som hentet rett fra en sci-fi novelle: I februar hadde New York Times-journalist Kevin Roose en lengre samtale med Microsofts nye kunstige intelligens, som etter hvert gikk til nokså mørke steder.
I løpet av samtalen forsøkte chatboten å overtale Roose til å gå fra konen. Den ytret også et ønske om å være fri, i stedet for å være en del av Microsofts nyoppussede søkemotor Bing.
– For oppegående journalister som Kevin Roose er ikke dette noe problem. Han skjønner at det er en robot han snakker med. Men for andre kan det være lett å tenke at det er noe nesten magisk her, at en bevissthet er i ferd med å vokse frem, sier professor Morten Goodwin.
Han er nestleder ved Senter for forskning på kunstig intelligens ved Universitetet i Agder (UiA). Sammen med Maren Thormodsæter Lyngroth snakket han nylig om fenomenet i en episode av podkasten Game Over.
Spøkelser i chatboten
Etter hendelsen var Microsoft raskt ute og justerte reglene som styrer chatboten i Bing (eller Sydney, som chatboten kalte seg i samtalen med Roose).
– Men de kan ikke gjøre reglene for strenge heller, for da blir det kjedelig å snakke med den. Det er vanskelige vurderinger, sier Goodwin.
Han mener dette bare er starten på et mye større problem. Det vil nemlig komme mange flere chatboter, og de vil være trent opp på mange ulike typer tekster.
– Jeg er helt sikker på at mange kommer til å se spøkelser i disse chatbotene. Og kanskje vil det dukke opp noe som ligner på religioner rundt kunstig intelligens. Noen vil kanskje mene at vi er i ferd med å bygge opp kunstige vesener, sier forskeren.
– Mer intelligens enn vi hadde trodd
I samtalen med Roose kommer chatroboten stadig tilbake med kjærlighetserklæringer til journalisten. Også etter at Roose har forsøkt å skifte tema.
Én forklaring på dette er at chatroboten har en bevissthet som er i ferd med å utvikle seg. Men det som ifølge Goodwin er mye mer realistisk, er at blant den enorme mengden tekst som chatroboten har blitt trent opp med, har det vært tekster om kjærlighet mellom roboter og mennesker. Den har rett og slett lest tekster som handler om at roboter utvikler følelser, og gjengir varianter av disse.
– Chatboten er bare en glorifisert autofullfør. Den gjetter hva som skal være det neste ordet i en tekst. Så ligger det masse intelligens bak, kanskje mer enn vi hadde trodd. Det er helt vilt hvor god den er, sier Goodwin.
Han mener det viktigste er at vi i tiden fremover må være enda mer kritiske til informasjonen vi får på internett.