Igor Babuschkin, een van de medeoprichters van xAI, het AI-startup van Elon Musk, heeft het bedrijf verlaten om zich te richten op de ontwikkeling van veilige kunstmatige intelligentie. Babuschkin lanceert Babuschkin Ventures, een investeringsmaatschappij die zich uitsluitend toelegt op onderzoek en startups in AI-veiligheid. Babuschkin speelde een cruciale rol in de vroege fase van xAI, waar hij verantwoordelijk was voor het creëren van fundamentele tools voor trainingsprocessen en toezicht hield op de engineeringafdelingen voor infrastructuur, product en toegepaste AI. Zijn vertrek volgt op dat van Robert Keele, het hoofd juridische zaken van xAI, eerder deze maand, wat duidt op een periode van significante veranderingen binnen het bedrijf. Elon Musk sprak zijn dankbaarheid uit voor Babuschkins bijdragen via X en wenste hem succes.
De investeringsmaatschappij van Babuschkin zal onderzoek financieren en startups ondersteunen die zich inzetten voor de veilige en verantwoorde vooruitgang van AI-technologieën. De focus op AI-veiligheid is een steeds belangrijker wordend gebied binnen de tech-industrie. Recente schattingen suggereren dat de wereldwijde financiering voor AI-veiligheidsonderzoek tussen 2021 en 2024 rond de 80 tot 130 miljoen dollar per jaar lag. Dit benadrukt de noodzaak van gespecialiseerde investeringen zoals die van Babuschkin Ventures om dit cruciale onderzoeksveld te stimuleren. Babuschkins eerdere ervaring bij Google DeepMind en OpenAI, waar hij werkte aan projecten zoals AlphaStar, positioneert hem uniek om de uitdagingen op het gebied van AI-veiligheid aan te pakken. Zijn stap naar AI-veiligheid weerspiegelt een bredere beweging in de sector waar veiligheidsprotocollen en ethische overwegingen steeds meer prioriteit krijgen. Het vertrek van Babuschkin benadrukt ook de uitdagingen op het gebied van talentbehoud binnen snelgroeiende AI-bedrijven.