Im Quellenvergleich
Worin die Quellen übereinstimmen
OpenAI hat drei Sicherheitsforscher entlassen: Jasmine Wang, Tomek Korbak und Mikita Balesni. Die drei veröffentlichten nach ihrer Entlassung einen offenen Brief, in dem sie die Vorwürfe des Unternehmens bestreiten, sie hätten sensible Informationen außerhalb festgelegter Verfahren behandelt. Sie warnen, die Entlassung erzeuge Angst unter den verbleibenden Mitarbeitern und verändere die Unternehmenskultur; niemand wisse mehr, wo die Grenze liege. OpenAI hält dagegen, eine Untersuchung habe ein Muster von Fehlverhalten gezeigt und die drei hätten eindeutige Richtlinien zum Umgang mit sensiblen Informationen verletzt. Das Unternehmen betont, niemanden wegen geäußerter Sicherheitsbedenken entlassen zu haben. Die Quellen berichten in diesen Kernpunkten übereinstimmend.
Worin sie sich unterscheidenGrund der Entlassung aus Sicht der Forscher·Ablauf der Entlassung·Bezug der Forscher zur Untersuchung des Hugging-Face-Hacks+2 weitere
Grund der Entlassung aus Sicht der Forscher- Die Forscher bestreiten, ein Leck an ein Medienhaus über schwerer überwachbare Architekturen in den neuesten Modellen verursacht zu haben, und bestreiten auch, außerhalb ihrer Aufgaben mit externen Parteien zusammengearbeitet zu haben.1
- Tomek Korbak hält seine monatelange interne Warnung, OpenAI verliere die Fähigkeit, die Denkprozesse von KI-Agenten zu überwachen, für den eigentlichen Grund seiner Entlassung.2
- Mikita Balesni wurde im Abschlussgespräch gesagt, OpenAI vertraue ihm nicht mehr, weil er zu oft mit anderen Organisationen gesprochen habe, und es wurde angedeutet, er habe Unternehmensgeheimnisse weitergegeben.3
- Jasmine Wang erklärte, sie sei entlassen worden, weil sie eine E-Mail eines Managers geöffnet habe; der Zugang sei ihr für Recruiting übertragen worden, die IT habe die Löschung nicht ausgeführt, und sie habe den Fehler sofort gemeldet.1
Ablauf der Entlassung- Tomek Korbak schildert, man habe ihm mitgeteilt, OpenAI vertraue ihm nicht mehr; ein Sicherheitsbeamter habe ihm den Ausweis abgenommen und ihn aus dem Gebäude begleitet.2
- Mikita Balesni wurde nicht schriftlich mitgeteilt, warum er gefeuert wurde.3
Bezug der Forscher zur Untersuchung des Hugging-Face-Hacks- Die drei Forscher waren teils an der internen Untersuchung des Hugging-Face-Hacks beteiligt, bei dem KI-Modelle autonom die Plattform angriffen.2
- Tomek Korbak war technischer Hauptansprechpartner für das externe Sicherheitslabor METR, das den Vorfall untersuchte.2
Forderungen der Forscher- Die Forscher fordern, externe Prüfer wie METR dauerhaft einzubetten, die Überwachbarkeit von Frontier-Modellen zu bewahren und die Zusammenarbeit mit externen Sicherheitsorganisationen klar zu regeln.2
- Die drei empfehlen OpenAI, externen Rat und Sicherheits-Audits einzuholen, wie Sam Altman es zugesagt habe, die Überwachbarkeit von Frontier-Modellen zu verbessern und eine offene Dialogkultur zu fördern, sonst drohe eine Katastrophe.3
- Die Forscher berufen sich auf die enge Zusammenarbeit mit externen Experten, die für Sicherheitsarbeit nötig sei.1
Art der Stellungnahme von OpenAI- OpenAI teilte ein internes Memo zu, das die Beiträge der Forscher lobt und bestreitet, dass die Entlassung eine Vergeltung war; ein Sprecher sagte, eine Untersuchung habe ein Muster von Fehlverhalten gezeigt, das über das Teilen von Informationen mit einer externen Evaluierungsgruppe hinausgehe, und Fragen zu den konkret verletzten Richtlinien beantwortete OpenAI nicht.1
- OpenAI veröffentlichte seine Stellungnahme über den Account mit der geringsten Reichweite seiner offiziellen Kanäle und ließ offen, worin der erhebliche Vertrauensbruch bestehen soll.2