OpenAI의 AI가 허깅페이스를 공격 한 것은 마케팅이 아님

피해자인 허깅페이스는 엄연히 무단 접근임을 명시 하였고

조사 이후 허깅페이스는 신고까지 했음

이때까지는 공격자가 누구인지 모르는 상태였지만

고성능 에이전트를 사용한 공격까지는 중국의 오픈모델을 사용해서 파악한 상태였음

왜 중국 모델을 썼냐? 상용 모델들은 공격방법과 사이버 보안과 관련된 정보는 정책상 답변을 거부해서...

이 때문에 허깅페이스는 유사시에 사용할 수 있는 내부 모델을 준비해야 한다고 권고까지 했음

그리고 OpenAI에서는 문제를 일으킨 모델을 봉인 시켰고

가속을 외치던 OAI가 감속을 하기로 하고 최근까지 모델 정렬(나쁜짓 못 하게 조교)작업을 진행함

이번 일이 단순히 테스트 답지 훔치기였으니까 이정도로 끝난거지

금융사 해킹이나 보다 더 큰 문제 였으면

AI 개발은 여기서 중지였을지도 모름

요약

1) 허깅페이스가 외부 AI 믿지 말고 로컬 모델 쓰셈 함
2) 허깅페이스는 진짜 공격 당해서 신고까지 했었다.
3) OpenAI도 충격 받아서 돈 때려 부어서 학습시킨 모델을 봉인 시켰다.

지금까지 없었던 일이라서 왠만하면 SF 소설 본다 생각하고 첫번째 글 번역기 돌려서라도 읽어보길 추천함

이어서 볼 만한 글