In einer bemerkenswerten Entwicklung hat Safe Superintelligence Inc. (SSI), ein erst drei Monate altes Start-up-Unternehmen, das von Ilya Sutskever, einem der Mitbegründer von OpenAI, gegründet wurde, eine Finanzierung in Höhe von 1 Milliarde US-Dollar erhalten. Diese erhebliche Investition wurde von führenden Risikokapitalfirmen wie Sequoia Capital und Andreessen Horowitz geleitet und bewertet das Unternehmen mit etwa 5 Milliarden US-Dollar.
Ilya Sutskever verließ OpenAI im Mai dieses Jahres, nachdem er einen erfolglosen Versuch unternommen hatte, den CEO Sam Altman zu entlassen. Kurz danach gründete er zusammen mit Daniel Gross und Daniel Levy Safe Superintelligence Inc. Ziel des Unternehmens ist es, „sichere“ KI-Modelle zu entwickeln, die sowohl leistungsfähig als auch auf menschliche Interessen ausgerichtet sind.
Die Mission von SSI ist es, KI-Systeme zu schaffen, die sowohl hochfähig als auch sicher sind. „Wir haben einen neuen Berg identifiziert, den es zu erklimmen gilt, der sich etwas von dem unterscheidet, woran ich vorher gearbeitet habe. Wenn man etwas anderes macht, wird es möglich, etwas Besonderes zu tun“, erklärte Sutskever in einem Interview.
Die Finanzierung wird verwendet, um die notwendigen Rechenressourcen für die Entwicklung von KI-Modellen zu erwerben und das derzeitige Team von 10 Mitarbeitern zu erweitern. Das Unternehmen rekrutiert aktiv und bietet Stellen in Palo Alto, Kalifornien, und Tel Aviv, Israel, an.
SSI's Ansatz unterscheidet sich von anderen KI-Unternehmen wie OpenAI, Anthropic und Elon Musks xAI, die alle KI-Modelle für verschiedene Verbraucher- und Geschäftsanwendungen entwickeln. SSI konzentriert sich ausschließlich auf die Schaffung einer „direkten Linie zu sicherer Superintelligenz“.
Daniel Gross, der CEO von SSI, betonte die Bedeutung dieses fokussierten Ansatzes: „Es ist wichtig für uns, von Investoren umgeben zu sein, die unsere Mission verstehen, respektieren und unterstützen, die darin besteht, eine direkte Linie zu sicherer Superintelligenz zu schaffen und insbesondere einige Jahre in die Forschung und Entwicklung unseres Produkts zu investieren, bevor wir es auf den Markt bringen.“
Interessant ist, dass das Unternehmen trotz fehlender Produkte bereits eine bedeutende Bewertung und Finanzierung erhalten hat, was das intensive Interesse und die Investitionen in die sichere KI-Forschung unterstreicht. Diese Entwicklung erfolgt vor dem Hintergrund wachsender Bedenken hinsichtlich der potenziellen Risiken, die mit immer leistungsfähigeren KI-Systemen verbunden sind.
Heute tritt SSI in ein wettbewerbsfähiges Feld gut finanzierter KI-Unternehmen ein. OpenAI plant Berichten zufolge, weitere Mittel zu einem Wert von über 100 Milliarden US-Dollar zu beschaffen, während Anthropic und xAI kürzlich mit rund 20 Milliarden US-Dollar bewertet wurden.
Die hohe Bewertung und das Interesse der Investoren an SSI unterstreichen die Bedeutung und den Bedarf an sicherheitsorientierter KI-Forschung. Die Schaffung eines fokussierten und hochqualifizierten Teams von Ingenieuren und Forschern ist ein zentraler Bestandteil der Strategie von SSI.
Obwohl SSI noch keine Produkte auf dem Markt hat, wird der Fortschritt des Unternehmens sowohl von der Technologiebranche als auch von denen, die sich mit den ethischen Implikationen der KI-Entwicklung beschäftigen, genau beobachtet werden.
Die Gründung von Safe Superintelligence Inc. und der schnelle Erfolg bei der Finanzierung spiegeln einen breiteren Trend in der KI-Branche wider, der darauf abzielt, Sicherheitsbedenken neben den Fortschritten in der Leistungsfähigkeit von KI anzugehen. Diese Herangehensweise stimmt mit den Forderungen von KI-Forschern und Ethikern überein, die eine verantwortungsvollere Entwicklung von Künstlicher Intelligenz fordern.
Die Zukunft von SSI wird zeigen, inwieweit das Unternehmen seine ehrgeizigen Ziele erreichen kann. Die intensive Beobachtung durch die Branche und die Öffentlichkeit wird sicherstellen, dass jede Entwicklung und jeder Fortschritt genau verfolgt wird.