OpenAI integriert Sicherheit in KI-Agenten, indem es das Startup Promptfoo erwirbt

OpenAI erwirbt das Startup Promptfoo

Das Unternehmen OpenAI hat eine Vereinbarung zum Kauf des zweijährigen Startups Promptfoo abgeschlossen, das Werkzeuge zur Sicherheitsprüfung von künstlicher Intelligenz bereits in ihrer Entwicklungsphase entwickelt. Laut Bloomberg soll die Transaktion dazu dienen, Risiken für Kunden zu reduzieren, die KI-Lösungen nutzen, und einen großen Unternehmensmarkt anzuziehen.

Wer ist Promptfoo?

- Gegründet: 2022
- Standort: San Francisco
- Dienstleistungen: Open‑Source-Code zum Testen von neuronalen Netzen, einschließlich „Red Team“, bei dem Spezialisten Angriffe auf eigene Modelle simulieren, um Schwachstellen zu identifizieren, bevor sie von Angreifern entdeckt werden.
- Kunden: etwa 25 % der Unternehmen aus der Fortune 500-Liste.

Was wird sich nach der Integration ändern?

Die Technologien von Promptfoo werden in die Unternehmensplattform von OpenAI – Frontier – integriert. Dadurch erhält Frontier automatisierte Tests, Änderungsüberwachung und ein Berichtssystem für Prüfungen, das den Sicherheitsanforderungen entspricht.

Reaktion der Investoren

Ganes Bell (CEO Insight Partners), der die Finanzierungsrunde von Promptfoo im vergangenen Jahr mit 18,4 Mio. USD geleitet hat, bemerkte: „Der Kauf demonstriert die klare Verpflichtung von OpenAI zur Schaffung einer Unternehmens-KI, die nicht nur leistungsstark, sondern auch sicher und zuverlässig bei Skalierung ist.“ Die finanziellen Details der Transaktion werden noch nicht veröffentlicht.

Zukunft von Promptfoo

OpenAI wird den Open‑Source-Code von Promptfoo weiterentwickeln, während er gleichzeitig kommerziell integriert wird. Kürzlich hat das Unternehmen bereits einen KI-Agenten vorgestellt, der in der Lage ist, Schwachstellen in Datenbanken zu finden und zu beheben – ein ähnliches Tool wie Anthropic PBC.