Geoffrey Hinton, en av pionjärerna inom artificiell intelligens och Nobelpristagare i fysik, har i över 60 år trott på AI:s potential. Men nu, när vi står på randen av att skapa en superintelligens, uttrycker han djup oro för vad detta kan innebära för mänskligheten.

Hinton påpekar att vi varken vet hur vi skulle kunna kontrollera eller stoppa en överlägsen datorintelligens. Med den snabba utvecklingen inom maskininlärning och AI-teknologi växer rädslan för att sådana system kan bli oövervakade och därmed potentiellt farliga.

Forskare världen över har varnat för riskerna med AI, inklusive konservativa röstningar från teknologi- och forskningsledare. Frågan är nu inte bara hur vi kan utveckla AI på ett säkert sätt, utan också hur vi kan förbereda oss för de etiska och moraliska utmaningarna vilket en sådan teknologi medför. Hinton uppmanar till mer diskussion och forskning kring hur mänskligheten kan samexistera med intelligenser som kan överträffa vår egen.