Gartner: Dags att lära maskinerna etik

2015-03-17 10:43  
Frank Buytendijk, forskningsansvarig vid Gartner. Foto: Gartner

I takt med att maskiner blir allt smartare är det viktigt för företag som skapar programvara att tänka på maskinernas etik. Det anser analysföretaget Gartner som lanserar en femgradig etikskala för maskiner.

– Helt klart måste människor kunna lita på smarta maskiner för att acceptera och använda dem. Förmågan att skapa tillit måste ingå i alla projekt där artificiell intelligens eller smarta maskiner används, och det blir ett viktigt försäljningsargument när sådan teknik ska marknadsföras, säger Frank Buytendijk, forskningsansvarig vid Gartner.

Gartner påpekar att tillverkarna måste ha koll på oväntade konsekvenser när människor använder smarta maskiner, och kunna hantera negativa konsekvenser, men också dra nytta av positiva.

Den femgradiga skalan som Gartner föreslår börjar med en noll-nivå – teknik som inte kräver etisk programmering alls. Det gäller bland annat testversioner av programvara. Dock rekommenderas tydlig transparens om vad tekniken kan eller inte kan.

Nivå ett handlar om etisk översikt – att etablera användarrekommendationer för smarta maskiner, men att låta användarna ta ansvaret för all användning.

Nivå två – etisk programmering – tar vid när inte bara yrkesmänniskor utan även konsumenter använder tekniken. Gartner tar som exempel en digital assistent i en mobil som tillfrågas om närmaste bro som man kan hoppa ifrån. Den smarta assistenten bör då vara programmerad att fånga upp signalen om risk för självmord, och förmedla kontakt med någon instans som kan ge hjälp och stöd.

Nivå tre rör etisk programmering som successivt utvecklas. Detta gäller maskiner som lär sig själva och som därmed kommer längre och längre från sitt ursprungliga tillstånd.

Tillit till sådana maskiner är nödvändigt för att människor ska använda dem, konstaterar Gartner, som också räknar med att en hel del nya regelverk och lagar kommer att krävas på den här nivån. Som exempel nämns frågan om en maskin ska kunna använda en anställds kreditkort, eller kanske till och med ha ett eget.

Den fjärde nivån – etik utvecklad av maskinerna själva – är ett långtidsperspektiv. Gartner anser inte att företag behöver planera för detta, men utgår från att maskiner förr eller senare blir självmedvetna och att de då behöver undervisas och uppfostras i frågor om etik.

– De frågor som vi bör ställa oss är: Hur ska vi se till sådana maskiner tar sitt ansvar? Kommer vi att behandla smarta maskiner som husdjur, vars ägare fortfarande är ansvariga för vad de gör? Eller kommer vi att behandla dem som barn, och uppfostra dem tills de kan ta ansvar för sig själva? frågar sig Frank Buytendijk.

Mats Lewan

Mer om: Gartner Etik

Kommentarer

Välkommen att säga din mening på Ny Teknik.

Principen för våra regler är enkel: visa respekt för de personer vi skriver om och andra läsare som kommenterar artiklarna. Alla kommentarer modereras efter publiceringen av Ny Teknik eller av oss anlitad personal.

  Kommentarer

Debatt

Läs mer