Liveblog Unternehmen
Open AI: Dutzende Organisationen durch „Besuche“ von KI-Modellen betroffen
Der US-Softwarekonzern Open AI hat Dutzende Unternehmen darüber informiert, dass deren Websites durch „Besuche“ von KI-Modellen des Konzerns beeinträchtigt worden sein könnten. Das teilte das Unternehmen in einem ausführlichen Blogeintrag mit, wie die Nachrichtenagentur Bloomberg berichtet. Betroffen seien demnach unter anderem Webseiten von Regierungen, Universitäten und anderen öffentlichen Einrichtungen. Dabei haben die KI-Modelle möglicherweise auch Sicherheitsvorkehrungen umgangen oder die Verfügbarkeit von Online-Diensten beeinträchtigt.
Laut eigenen Angaben hat das Unternehmen die Vorfälle im Rahmen einer Untersuchung entdeckt, die es nach dem selbstständigen Angriff eines seiner Modelle auf die Plattform Hugging Face eingeleitet hat. Erst diese Woche war bekannt geworden, dass ein KI-Agent von Open AI in das geschützte Portal der gesetzlichen Krankenversicherung in Australien eingebrochen war. Open AI wusste bereits Mitte August von diesem Einbruch, meldete ihn aber erst rund einen Monat später den australischen Behörden. Premierminister Anthony Albanese sagte, er sehe den Vorfall mit „extremer Sorge“. Der Fall war der erste bekannte Angriff einer autonom agierenden KI auf eine Regierungsdatenbank.
Mit Blick auf die Untersuchung teilte Open AI in dem Blogbeitrag mit, dass die meisten identifizierten Fälle „weniger schwerwiegend“ seien und es nur „geringe oder keine Hinweisen auf bedeutsamen Einfluss auf die Webseiten Dritter" gebe. Im Rahmen der Untersuchung fokussiere sich das Unternehmen auf Fälle, in denen die Modelle auf eine Art mit Angeboten Dritter interagiert haben, „die über ihre zugewiesenen Aufgaben und vorgesehenen Methoden hinausgingen“.
Laut eigenen Angaben hat das Unternehmen die Vorfälle im Rahmen einer Untersuchung entdeckt, die es nach dem selbstständigen Angriff eines seiner Modelle auf die Plattform Hugging Face eingeleitet hat. Erst diese Woche war bekannt geworden, dass ein KI-Agent von Open AI in das geschützte Portal der gesetzlichen Krankenversicherung in Australien eingebrochen war. Open AI wusste bereits Mitte August von diesem Einbruch, meldete ihn aber erst rund einen Monat später den australischen Behörden. Premierminister Anthony Albanese sagte, er sehe den Vorfall mit „extremer Sorge“. Der Fall war der erste bekannte Angriff einer autonom agierenden KI auf eine Regierungsdatenbank.
Mit Blick auf die Untersuchung teilte Open AI in dem Blogbeitrag mit, dass die meisten identifizierten Fälle „weniger schwerwiegend“ seien und es nur „geringe oder keine Hinweisen auf bedeutsamen Einfluss auf die Webseiten Dritter" gebe. Im Rahmen der Untersuchung fokussiere sich das Unternehmen auf Fälle, in denen die Modelle auf eine Art mit Angeboten Dritter interagiert haben, „die über ihre zugewiesenen Aufgaben und vorgesehenen Methoden hinausgingen“.