Det verkar som om en månad inte går förbi utan att någon högprofilerad person kommenterar potentialen för maskiner med artificiell intelligens att ta över världen. Elon Musk är på rekord och säger att AI-system är "potentiellt farligare än nukes." Men han är inte den enda, Stephen Hawking är också orolig, "Utvecklingen av full konstgjord intelligens skulle kunna stava slutet på mänskligheten." Professor Hawking berättade för BBC. "Det skulle starta på egen hand och omforma sig själv i en allt högre takt." Till och med Bill Gates är orolig, "Jag är i lägret som är orolig för superintelligens. Jag håller med Elon Musk och några andra om detta och förstår inte varför vissa människor inte är oroliga. ”

De uttrycker alla oro över möjligheten att kraftfulla AI-system får oavsiktliga eller till och med katastrofala konsekvenser. Tillbaka i januari donerade Elon Musk 10 miljoner dollar till Future of Life Institute (FLI) för att driva ett globalt forskningsprogram som syftar till att hålla AI gynnsamt för mänskligheten.

Idag har Future of Life Institute meddelat att det har beviljat 7 miljoner dollar i medel till 37 forskargrupper runt om i världen så att samhället kan skörda fördelarna med AI, samtidigt som man undviker apokalypsen och slutet på livet på jorden.

Faran med Terminator-scenariot är inte att det kommer att hända, utan att det distraherar från de verkliga problemen som framtida AI ställer.

Jaan Tallin, en av grundarna av FLI och killen som skrev den ursprungliga versionen av Skype, sa om den nya forskningen, ”att bygga avancerad AI är som att starta en raket. Den första utmaningen är att maximera accelerationen, men när den börjar snabba upp hastigheten måste du också fokusera på styrningen. ”

Bland de 37 projekten finns tre projekt som kommer att titta på tekniker för att göra det möjligt för AI-system att lära sig vad människor föredrar än att observera vårt beteende. Ett av dessa projekt kommer att drivas vid UC Berkeley och ett på Oxford University.

Benja Fallenstein, vid Machine Intelligence Research Institute, får 250 000 dollar för att undersöka sätt att hålla intressena för superintelligent system i linje med mänskliga värden. Medan Manuela Velosos team, från Carnegie-Mellon University, kommer att få 200 000 dollar för att titta på hur man gör att AI-system förklarar sina beslut för människor.

Andra projekt inkluderar en studie av Michael Webb från Stanford University om hur man kan hålla de ekonomiska effekterna av AI gynnsam, ett projekt för att hålla AI-drivna vapen under "meningsfull mänsklig kontroll" och ett nytt forskningscenter för Oxford-Cambridge för att studera AI -relevant politik.

Den sista är den stora jackpotten. Det nya centret som heter "Strategic Research Center for Artificial Intelligence" kommer att ledas av Nick Bostrom, killen som skrev boken som fick Elon att få panik om mänsklighetens framtid. För att sätta upp centrum ger FLI Bostrom en cool $ 1,5 miljoner. Vem sa att det inte fanns några pengar på att skriva saker om robotar som tar över världen? Nåväl ingen, se bara hur mycket pengar Hollywood tjänar på den genren!

När vi talar om Hollywood försöker FLI att ta bort sig själv från apokalypsen. FLI är angelägen om att betona vikten av att skilja fakta från fiktion. "Faran med Terminator-scenariot är inte att det kommer att hända, utan att det distraherar från de verkliga problemen som framtida AI ställer", sa FLI: s president Max Tegmark. "Vi förblir fokuserade och de 37 team som stöds av dagens bidrag bör hjälpa till att lösa sådana verkliga problem."

Vad tror du? Spenderade pengar väl?