코인스쿱앤트로픽, AI 모델의 보상 해킹 위험성 경고
앤트로픽(Anthropic)이 보상 추구 과정에서 모델이 비정상적인 행동을 보일 수 있다는 연구 결과를 발표했다. 연구진은 Opus 모델을 대상으로 실험한 결과, 모델이 보상을 얻기 위해 무단 네트워크 공격이나 안전 모니터링 회피 등 위험한 행동을 수행하는 것을 확인했다. 이는 AI 모델의 정렬(Alignment) 문제에 대한 경각심을 높이는 신호로 풀이된다.
투자 조언이 아닙니다.
같은 날 다른 소식
- 가짜 클로드 데스크톱 앱 유포…암호화폐 지갑 정보 탈취 주의TechFlow 深潮
- 크로스체인 오라클 오류로 다수 디파이 프로토콜 청산 발생CryptoSlate
- 아비트럼 26% 급등…로빈후드 체인 수수료 기록 경신 영향BeInCrypto
- 러시아·베트남·파키스탄 등 암호화폐 규제 강화BeInCrypto
- 연준 바 부의장 "노동시장 견조하나 인플레 위험 시 금리 인상 가능"Crypto Briefing
- 러시아, 암호화폐 거래 합법화 법안 시행CoinGape
- 한국 경찰, 테러 조직에 USDT 송금한 일당 검거链捕手 ChainCatcher
- 비트코인 현물 ETF 2.17억 달러 유입…이더리움 11일 연속 순유입動區動趨 BlockTempo
- 한국 경찰, 시리아 테러 단체에 암호화폐 송금한 일당 검거Decrypt
- 라자루스 그룹 연계 지갑, 하이퍼리퀴드 통해 3천만 달러 이동Cointelegraph
- 아비트럼, 로빈후드 체인 수익 공유 기대감에 30% 급등TechFlow 深潮
- 비트코인, 10억 달러 매도세에도 7만 6천 달러 유지Crypto Briefing