Wat gebeurt er bij de AI eenheid van Google, DeepMind?

Eind vorige maand stopte Google’s moederbedrijf Alphabet (NASDAQ: GOOG) de onderhandelingen met de senior managers van de kunstmatige intelligentie (AI) eenheid, DeepMind, over de vraag van de managers naar meer onafhankelijkheid voor de eenheid, volgens een Wall Street Journal verhaal.

Onder de verschillende opties die door het leiderschap van DeepMind naar voren werden gebracht, waren een gedeeltelijke spin-out en een overgang naar een juridische structuur die door non-profitorganisaties wordt gebruikt. Dergelijke structuren waren financieel niet logisch voor Google, aangezien het het bedrijf in 2014 had overgenomen voor meer dan $ 500 miljoen en nog steeds de niet-winstgevende business unit backrolde.

Mede-oprichter Demis Hassabis informeerde de werknemers vorige maand via een videogesprek over de mislukte onderhandelingen voor een meer autonome bedrijfsstructuur, maar voegde eraan toe dat het werk van DeepMind zal worden beoordeeld door een ethische raad die voornamelijk wordt bemand door leidinggevenden van Google.

Google is van plan om de omvang van zijn team dat de ethiek van AI bestudeert, te vergroten, aldus het verhaal.

Waarom maakt het uit?

DeepMind werkt met de allernieuwste technologie. Haar AI onderzoek en toepassingen kunnen verstrekkende implicaties hebben die ethische vragen oproepen.

De oprichters van de eenheid zijn van mening dat één bedrijfsentiteit geen controle mag hebben over zo’n krachtige technologie en heeft in het verleden regels opgesteld om te voorkomen dat haar AI tools worden gebruikt in autonome wapens of bewaking.

Op de website van DeepMind staat het volgende op haar website:

“Geleid door veiligheid en ethiek, kan deze uitvinding de samenleving helpen antwoorden te vinden op enkele van ‘s werelds meest urgente en fundamentele wetenschappelijke uitdagingen.”

Meer over DeepMind

DeepMind werd in 2010 opgericht met het doel op lange termijn om “intelligentie op te lossen, meer algemene en capabele probleemoplossende systemen te ontwikkelen, bekend als kunstmatige algemene intelligentie (AGI)”, aldus de website.

Het AlphaGo programma was het eerste dat een wereldkampioen versloeg bij het Chinese bordspel Go. De eenheid heeft geavanceerde programma’s gebouwd die oogziekten net zo effectief kunnen diagnosticeren als ‘s werelds beste artsen. Dergelijke applicaties demonstreren de kracht en gevoeligheid van de AI tools.