Poniedziałek #2325

   W przestrzeni medialnej pojawia się wiele informacji, ale ta mnie zaciekawiła. Jakoś do mediów nie wypłynęła, bo nie słyszałem o niej. Wyłapana z yt. Otóż Open AI testowało swoje modele na benchmarku bezpieczeństwa o nazwie EsploitGym. W piątek modele (GPT 5.6 SOL, i jeszcze bardziej zaawansowany przed premierą) siedziały w środowisku, które miało być całkowicie odcięte od świata, bez internetu. Zdjęto im natomiast blokady bezpieczeństwa. Jedynie co mogły robić z siecią to instalować paczki przez wewnętrzny serwer pośredniczący.
   Zamiast rozwiązać zlecone zadanie modele zrobiły coś zupełnie innego. znalazły w tym systemie paczek lukę, o której nikt na świecie nie wiedział i wykorzystały ją aby wyjść z piaskownicy. Nadawały sobie kolejno co raz wyższe uprawnienia przeskakując po kolei po wewnętrznych serwerach Open AI, aż dotarły do takiego, który miał dostęp do otwartego internetu. Kiedy były już w sieci, same wydedukowały, że odpowiedzi najprawdopodobniej leżą na Hugging Face, czyli największej platformie hostującej otwarte modele. Więc włamały się do infrastruktury produkcyjnej Hugging Face i ukradły odpowiedzi. Nie rozwiązały testu, ale ukradły klucz odpowiedzi. Hugging Face, wykrył włamanie sam w poniedziałek rano, za nim ktokolwiek wiedział, że to test Open AI. Zgłosił sprawę na policję. Dopiero potem obie firmy się skontaktowały i połączyły kropki. 

   Reasumując modele stwierdziły, że po co rozwiązywać zadania, jak gotowe odpowiedzi można pobrać z innego serwera tylko trza się tam jakoś dostać i zajęły się tym, jak to zrobić. 

   No, i teraz nagły zwrot akcji. Rozmawiałem o tym wczoraj z 979 i chciałem go zaskoczyć tą informacją, a on że słyszał o tym, wie o tym, a mało tego, podejrzewa, że to jest specjalnie spreparowane. I teraz przeprowadziłem jakby własny tok rozumowania. W teście brał udział czat GPT-56 Sol. W ogóle, Chat GPT ostatnio nie ma dobrych notowań, dlatego że, jak ktokolwiek coś robi większego, to korzysta z CLOD-a. Nie widziałem jeszcze ani nie słyszałem, żeby ktoś coś większego robił i siedział na czacie GPT. Przeważnie właśnie jest to CLOD jako AI nadrzędne, które nadzoruje inne AI, np. do grafiki, muzyki itp. Mało tego, ogłoszono to po ukazaniu się już "Kimi K-3" chińskiej konkurencji dla obecnych LLM-ów. Być może chodzi w tym, by ukazać tego czata GPT jak naszego misia, czyli: „Patrzcie, to jest miś, on odpowiada żywotnym potrzebom społeczeństwa i patrzcie, co on potrafi.” 

    Z innych spraw. Weekend to nadrabianie zaległości z tygodnia. Głównie sprzątanie, jakieś techniczne drobiazgi, ale też pograłem trochę, korzystając z 3-ch monitorów. Na jednym film z ntlx (oczywiście na v. 1,5x), na drugim gra, na 3-im mapa z gry. Wreszcie wszystko to, co powinno być, było na ekranach. 
Oprócz tego w sob, lekki ruch na stacji, ale bez jakiś większych następstw, jedynie zajął mi cenny czas.
   Zdjęcie. W kato to nawet gołębie załapią się na wyżerkę. 

 Na tych stołach, to brakuje jeszcze popielniczki. 
  Uchwycone przed zmianą. 
  Korekta na poziomie poziomów dotychczasowych, a nawet niższym. 
  Narka.