Wygląda na to, że postęp w świecie sztucznej inteligencji przychodzi zbyt szybko i łatwo. Przynajmniej dla lidera rynku odpowiedzialnego m.in. za ChatGPT.
OpenAI wstrzymało część prac związanych z rozwijanym modelem AI o nazwie „Astra”. Nie chodzi jednak o problemy z wydajnością czy jakością generowanych odpowiedzi. Firma uznała, że obecne zabezpieczenia mogą być niewystarczające wobec jego możliwości i przed wznowieniem rozwoju zamierza wdrożyć bardziej rygorystyczne środki bezpieczeństwa.
Pytanie na ile w tym prawdy, a na ile to zabieg marketingowy?
Powodem są najnowsze wewnętrzne testy, w których Astra wykazała „znaczący postęp” w autonomicznym programowaniu oraz cyberbezpieczeństwie. Wyniki, uzupełnione ocenami ekspertów, sprawiły, że OpenAI nie jest już w stanie wykluczyć, iż model osiąga poziom zagrożenia określany w firmowej dokumentacji Preparedness Framework jako „Critical”.
To próg zarezerwowany dla systemów zdolnych potencjalnie do samodzielnego wyszukiwania i opracowywania działających exploitów zero-day dla wielu dobrze zabezpieczonych, rzeczywistych systemów krytycznych. Obejmuje też możliwość zaplanowania i przeprowadzenia od początku do końca nowatorskiego cyberataku na chroniony cel, przy otrzymaniu od człowieka jedynie ogólnego polecenia.
OpenAI zapowiedziało więc ostrzejsze zabezpieczenia dla najbardziej zaawansowanych modeli. W przypadku Astry wdrożono również „uniwersalny monitoring”, który ma wykrywać ryzykowne działania oraz niepożądane zachowania w zastosowaniach agentowych.
Informacja pojawia się krótko po ujawnieniu incydentu, podczas którego modele OpenAI przypadkowo włamały się do infrastruktury Hugging Face. Firma zaznacza jednak, że Astra nie brała udziału w tamtym zdarzeniu.
Najnowsze Komentarze