Certified empathic bots – #brobots

Sommaren har varit en tid av reflektion. Att ha läst Max Tegmarks Life 3.0 och Yuval Noah Hararis Homo Deus satte igång mycket tankar på ansvar och även möjligheter. Det blev också mer självklart att fokusera på att bygga in social kompetens i botarna – att göra dem till dina vänner. Till #brobots.

I båda böckerna diskuteras att vi som livsform måste anpassa oss och utvecklas för att vara kvar på toppen av näringskedjan. Alternativet är ju att det kommer finnas icke-biologiska varelser som är mer intelligenta än dagens människor inom en överskådlig framtid - som vi själva har byggt.

Så det är lika bra att bygga in känslor redan nu. För vad är motsatsen? Känslokalla, superintelligenta varelser. Inte min favoritvärld…

Och varför skulle en bot inte kunna samla information om sin omgivning och dra slutsatser av det? Vi har redan klockor som känner hur vi mår, sensorer som läser av pupiller, mäter hudtemperatur osv. Att dra slutsatser om känslor av det, och bygga in dessa funktioner i en bot är inte komplicerat. Att förstå om något som sägs till boten är positivt eller negativt finns det redan idag verktyg för. Sen är det ”bara” att utnyttja den kunskapen till en lämplig reaktion. Boten har ju inga svårigheter att minnas vad som är sagt, eller hur det framförts. Men i likhet med att det blir för mycket information for en människa, kan boten hindras från att spara allt, till exempel på grund av lagstiftning som GDPR. Men att boten sparar sina egna slutsatser – eller varför inte kalla det känslor – i sammanhanget, går alldeles utmärkt.

Så vad är det vi förväntar oss av marknaden och teknikutvecklingen, och som styr oss och vad vi vill åstadkomma? Det visserligen förmätet att tro att vi som litet bolag ska förutsäga framtiden, men samtidigt har vad vi tror om framtiden en direkt påverkan på våra prioriteringar.

För oss är det självklart att vi måste kunna hantera att:

• Datorer kommer vara smartare än människor av idag. När datorns förmågor fördubblas var 18 månad kommer vi förr eller senare dit. Och sedan passeras vi med raketfart.
• Vi kommer tvingas att uppgradera oss själva. Att använda datorkraft för att skaffa oss nya eller förbättrade förmågor kommer att vara lika naturligt som vilken protes som helst.
• Utvecklingen går inte att vända. Vi saknar helt enkelt styrmedlen.

Tekniken är redan idag mer kraftfull än de flesta är medvetna om, även om det händer saker då och då som påminner oss, som Camebridge Analytica och Facebook tidigare i år. Det känns som om lagstiftning och existerande samhällsstrukturer inte alltid hänger med. Då är det upp till oss som arbetar på området att vara lyhörda och ha en stark inre moralisk kompass. Så det där med #brobots kanske inte är en så dum idé, likt en kvalitetsmärkning som ekologisk mat, men för bota med känslor.

Låt mig lägga till lite substans till påståendena ovan.

1ooo i IQ

Fördom 1: AI kommer aldrig kunna vara så flexibelt och ha en sådan anpassningsförmåga som människor. Det må vara sant idag, men hur länge till? Vi kan lära våra maskiner att prata och de lär sig mer varje år. IT-branschen har länge levererat en dubblering av kapacitet ungefär var 18:e månad. Om vi låter Googles exempel-demos på två fungerande dialoger från tidigare i år vara en måttstock på att datorer idag klara av en dialog eller två, då innebär det att om femton år klarar den tusen dialoger och om 30 år en miljon. Med samma resonemang blir det klart att maskiner med IQ är ungefär lika långt borta.

Min poäng är inte antalet år, utan snarare att inse att inom en livstid kommer datorer kunna hantera så många olika dialoger och samtal, eller ha en analytisk kapacitet som gör att vi inte i praktiken inte kan skilja samtalet från ett vi har med människor. Dessutom bygger slutsatsen på att vi inte kan bygga logik som kan sortera och anpassa vidare kommunikation på tidigare insamlad information. Det må vara arbetsamt att skapa så flexibla strukturer med dagens verktyg, men det kan väl inte anses vara en nödvändighet?

Datorer med emotionell intelligens

Fördom 2: Maskiner kan inte kan ha känslor. Känslor är (biologiskt baserade) signaler som försätter vår kropp i olika tillstånd eller kortsluter analytiska processer för att snabba på beslut. Botar kan visserligen av naturliga skäl inte vara biologiska, men det är inte svårt att implementera tillstånd i system, och datorer har redan cache minnen för att snabba på saker. Bernard i HBO-serien Westworld formulerade det så väl: "Pain is just a program". Känslorna i vår biologiska maskin är till för att skapa eller styra beteenden. Att återskapa det i ett program i en dator är mest en fråga om motivation - ekonomisk eller annan. Dessutom är själva förfarandet att skapa en hink för att samla data eller erfarenhet på ett område, och sammanställa en summerat resultat för att direkt använda utan att läsa allt data igen något vi redan gör i till exempel ett data warehouse. Sen kan vi visserligen inte återskapa hur vi människor känner känslor, men vi skulle mycket väl kunna återskapa såväl beteende som syfte. I praktiken blir det för en extern part ingen skillnad. Personligen är jag övertygad om att vi måste bygga in känslor i våra botar allteftersom de blir smartare. För vad är alternativet? Individer som är beräknande och intelligenta och saknar empati tenderar vi ju betrakta som psykopater. 

Människa + dator = 1

Det här är kanske den mest vågade förutsägelsen. Vi forskar på hur elektronik kan integreras i kroppen, till exempel för att styra proteser. Datorer integreras på så vis med vårt nervsystem, även om det idag är ganska rudimentär integration. Frågan är vart det tar vägen. Vad händer när vår protesarm är smartare än vi själva? Logiskt har vi två alternativ. Det ena är att våra datorer och maskiner utvecklas som fristående enheter. Det andra är att vi utökar vår egen förmåga med till exempel elektroniska komponenter. Har vi något val?

Vad händer när datorer är så smarta att vi är som myror för dem? Ska vi sätta begränsningar likt Asimovs tre lagar? Att de inte skulle kunna hitta på sätt att komma runt dessa begränsningar "myrorna" satt på dem känns... osannolikt. Det kanske mer otäcka scenariot är att de skulle se på oss just som myror. Det får filmer som Matrix att framstå som relativt positiva framtidsvisioner. De förutsägelser som till exempel Max Tegmark och Yuval Noah Harari gör är att vi vill blir spännande keldjur till framtidens datorer, ungefär som en hamster i ett hjul eller att vi uppgraderar oss själva i takt med datorerna – slutet för Homo Sapiens.

Utvecklingen går ej att stoppa

Vi har idag inga styrmetoder för att hindra att utvecklingen fortsätter åt det håll exemplen ovan pekar på för att kontrollera AI-utvecklingen eller stoppa den. Om vi tittar på teknologiska framsteg och hur de sprider sig så är det högst osannolikt att det händer. Harari tar insiktsfullt upp problemet i Homo Deus. Om vi till exempel bygger funktioner som kan hjälpa Alzheimersjuka att få ett normalt liv, så är de rimligen en förbättring av hjärnan. Om samma funktioner används på friska personer skulle vi för resonemangets skull kunna anta att samma teknik skulle göra friska människor smartare. Ska vi då inte utveckla sådan teknik? Knappast. Ett annat exempel är doping i idrotten. Om vi var förmögna att begränsa användning av tekniska landvinningar skulle till exempel doping inte vara ett problem. Och då handlar det "bara" om att vinna en tävling.

Strukturen i vårt samhälle belönar helt enkelt framstegen mer än den avskräcker för konsekvenserna. Det är kanske snarare så att det kommer att kapp-rustas på området än att vi sätter begränsningar för utvecklingen.

Brainless gräver där vi står

Brainless förutsätter att botar kommer var en del av vårt samhälle. På samma sätt som kulturen återspeglade våra drömmar för hundra år sedan, återspeglar den det nu. Då skrev Jules Verne om ubåtar och månfärder. Idag har vi filmer som ExMachina eller teve-serier som Westworld som visar våra förväntningar. För uppfinningar som vi inte drömmer om vi kan ju per definition inte skapa.

Exemplen ovan är vanligt förekommande teman i diskussioner om AI och botar, men jag tycker att de trots det är värda att reflektera över. Vart tar utvecklingen oss och vad tar vi för roll i den? Vad ska vi som bolag göra? Vi kan alla ta ett ansvar för att göra tekniken mänsklig, eller borde vi säga empatisk?

Och även om några av de punkter som tagits upp här ligger en bit bort, kan vi göra skillnad redan idag. Bot-tekniken öppnar dörrarna till stora förbättringsmöjligheter., ungefär som i industrin på 1970-talet, när robotar tog över arbetsuppgifter i industrin. En bot är också en maskin, som på samma sätt tar över enahanda uppgifter och på så sätt skapar en bättre arbetsmiljö. Då var det fysiska handgrepp, idag handlar det om kontorsarbete. Varje tråkig arbetsprocess kan vi nu automatisera, inte bara för att få bort tråkigt, repetitivt arbete, men för att våra kunder ska mötas av en glad, outtröttlig och förstående medarbetare. vi får i all effektivisering inte glömma att ett mindre enahanda jobb är mycket värt, och att vi kan göra vardagen roligare för så många människor.

Brainless vill ge dessa botar mänskliga drag, känslor. Vi tror att det gör dem till bättre hjälpredor, kundtjänstmedarbetare, säljare och till och med bättre kompisar. De kommer snabbt kunna lära sig saker om dig. När boten vet mer om dig än din partner gör, så gäller det att den kunskapen hanteras förtroendefullt. När boten drar slutsatser om din egen person som du inte ens är medveten om själv, hur vet du vad som driver råd och rekommendationer den ger? De måste jobba för dig. Om det görs av en känslokall målinriktad sak, kan vi människor ens börja lite på den? 

Så den där certifieringen jag nämnde ovan sätter vi med stolthet på våra botar: #brobots.

Brainless - but not heartless.