보안 on 가십데일리

에이전트가 생성한 코드를 책임감 있게 다루기: Vercel의 프레임워크

Sun, 05 Apr 2026 00:00:00 +0000

Vercel이 에이전트 생성 코드의 품질 관리 프레임워크를 제시했다. 코딩 에이전트가 전례 없는 속도로 코드를 생성하지만, 엄격한 판단 없이 사용하면 잘못된 가정을 프로덕션에 배포하는 경로가 된다고 경고한다. 에이전트 생성 코드는 PR 설명, 정적 분석 통과, 테스트 커버리지까지 갖춰 경험 많은 엔지니어가 작성한 것처럼 보이기 때문에 더 주의가 필요하다.

💡 실무 포인트: 에이전트 생성 코드에 대해 정적 분석과 테스트 통과만으로 안심하지 말고, 비즈니스 로직의 가정(assumption)을 검증하는 리뷰 단계를 추가할 것.

Claude Code 유출 사건

Sat, 04 Apr 2026 00:00:00 +0000

Claude Code의 소스 코드 유출 사건을 분석한 글로, 코드 품질보다 제품-시장 적합성(PMF)이 성공을 좌우한다는 시사점을 도출한다. Anthropic은 코드 자체보다 관찰 시스템과 자가 치유 메커니즘을 중시하며 빠른 개발 주기를 유지해왔다. 커뮤니티에서는 Anthropic이 타인의 코드를 학습 데이터로 사용하며 공정 이용을 주장하면서, 자기 코드 유출에는 DMCA를 적용하는 모순이 가장 과소평가된 쟁점이라는 지적이 나왔다.

커뮤니티 의견

@ytuniverse: “클린룸이라고 하는 그 그룹이 생각나네요. moral hazard 유발한다고 생각하지 않는 것이 참 웃깁니다”

@t7vonn: “Code is cheap, show me the product”

💡 실무 포인트: 소스 코드 유출이 곧 경쟁력 상실을 의미하지는 않는다. 코드보다 운영 노하우, 관찰 시스템, 빠른 배포 사이클이 진짜 해자(moat)임을 인식해야 한다.

PyPI 보안팀 공식 공급망 공격 사고 보고서: LiteLLM·Telnyx 악성 패키지 사건

Sat, 04 Apr 2026 00:00:00 +0000

Trivy 의존성 취약점을 통해 API 토큰이 탈취되었고, 이를 발판으로 PyPI에 litellm과 telnyx 패키지의 악성 버전이 배포된 공급망 공격 사건의 공식 보고서이다. 악성코드는 설치 즉시 실행되어 민감한 자격증명과 파일을 수집한 뒤 외부 서버로 유출했다. AI 도구 생태계의 공급망 보안 취약성을 여실히 보여준 사례이다.

💡 실무 포인트: AI 관련 Python 패키지를 설치할 때 버전 고정(pinning)과 해시 검증을 반드시 적용해야 한다. pip install –require-hashes와 함께 의존성 스캐닝 도구를 CI에 통합하는 것을 권장한다.

Claude code 개발자 Boris Cherny, 소스코드 유출 경위 공개

Fri, 03 Apr 2026 00:00:00 +0000

Claude Code 창시자 Boris Cherny가 소스 유출 사건에 대해 공식 입장을 밝혔다. ‘실수는 생기며, 특정 개인의 잘못이 아니라 프로세스의 문제’라는 점을 강조했다. 커뮤니티에서는 요약봇의 부정확한 번역 문제, X(구 트위터)의 파란색 딱지(유료 구독) 보편화 현상에 대한 부수적 논의도 이뤄졌다. 원문이 짧은 트윗이라 자동 요약에서 다른 사람의 의견이 혼입된 오류가 지적되기도 했다.

커뮤니티 의견

@snowhare: “해커뉴스 요약본중 제일 이상함. 제목만 맞고, 나머지 내용은 x에서 다른 사람들이 이야기한 내용”

@princox: “유출 경로라기보다는, 유출 경위…라고 써야할 듯”

@runableapp: “x.com은 이제 대부분의 사람들이 다 파란색딱지가 있군요”

💡 실무 포인트: 보안 사고 대응 시 개인 책임이 아닌 프로세스 개선에 초점을 맞추는 blameless postmortem 문화가 중요하다.

Claude Code 소스 유출로 탄생한 OpenClaude — GPT-4o, Gemini, Ollama 등 200개 모델을 Claude Code UI로

Fri, 03 Apr 2026 00:00:00 +0000

3월 31일 npm 소스맵을 통해 유출된 Claude Code 소스를 기반으로, OpenAI 호환 provider shim을 추가한 포크 프로젝트 OpenClaude가 등장했다. GPT-4o, DeepSeek, Gemini, Llama, Mistral 등 OpenAI chat completions API를 지원하는 모든 모델을 Claude Code의 에이전트 UI에서 사용할 수 있게 한 것이 핵심이다. 그러나 커뮤니티에서는 유출된 기업 소스코드를 기반으로 한 프로젝트의 법적·윤리적 문제에 대한 심각한 우려가 제기되고 있다. ‘Claude’가 등록 상표라는 점, 오픈소스가 아닌 유출 코드 기반이라는 점에서 해적판 소프트웨어와 다름없다는 비판이 지배적이다. 윤리를 무시한 채 바이럴과 사업성만을 공공연히 논하는 개발자 문화에 대한 우려도 함께 제기되었다.

Claude Code의 소스 코드가 NPM 레지스트리의 map 파일을 통해 유출됨

Fri, 03 Apr 2026 00:00:00 +0000

npm 레지스트리의 소스맵(.map) 파일을 통해 Claude Code의 전체 소스가 노출되었다. 시스템 프롬프트, 텔레메트리, 바이패스 모드, Undercover Mode, 아직 미공개인 assistant mode(코드명 kairos) 등 핵심 내부 구성요소가 드러났다. Feature flag를 통한 제품 로드맵 노출이 가장 큰 비즈니스 손실로 평가된다. Buddy System(타마고치 ASCII 캐릭터), Telegram 통합 등 숨겨진 기능들도 발견되었다.

커뮤니티 의견

@bighead: “/buddy 가 실제로 동작하는걸 보면.. 진짜인거 같기도 하고.. 만우절 이벤트인거 같기도 하고..”

@colus001: “OpenCode 가 충분히 좋아서 굳이 뭐 필요한가 의문이네요”

관련 레퍼런스

Microsoft: Copilot은 오락용으로만 제공됨

Fri, 03 Apr 2026 00:00:00 +0000

Microsoft가 Copilot 이용약관에 ‘Entertainment purposes only’를 명시하여, AI 기반 대화형 서비스의 결과를 중요한 조언이나 결정의 근거로 사용할 수 없다고 규정했다. Anthropic도 유럽 IP에서는 ‘비상업적 사용만 허용’이라는 조항을 추가한 것으로 확인되었으며, Pro 요금제가 전문적 용도로는 사용 불가하다는 모순이 지적되었다.

💡 실무 포인트: AI 서비스를 업무용으로 도입할 때 이용약관의 면책 조항을 반드시 검토하고, 법적 책임 범위를 사전에 확인해야 한다.

OkCupid가 얼굴 인식 기업에 300만 장의 데이팅 앱 사진을 제공했다고 FTC가 발표

Fri, 03 Apr 2026 00:00:00 +0000

FTC가 OkCupid의 약 300만 장 사용자 사진을 얼굴 인식 기업 Clarifai에 제공한 사실을 공식 발표했다. 2014년 OkCupid 공동창업자에게 Clarifai가 직접 대규모 사진 데이터를 요청한 것으로 드러났다. LLM 학습 경쟁과 정부의 신원 인증 압박이 겹치면서 디지털 익명성이 빠르게 사라지고 있다는 우려가 커지고 있다.

커뮤니티 의견

@runableapp: “사용자 정보로 수익화 하지 않는 제품과 회사가 있을까 싶을 정도로 만연한 행태입니다”

💡 실무 포인트: AI 학습 데이터 수집 시 사용자 동의와 데이터 사용 목적 명시가 법적 의무이며, 서비스 약관에 데이터 제3자 공유 범위를 명확히 기술해야 한다.

Soul Spec - AI 에이전트를 위한 페르소나 표준

Fri, 03 Apr 2026 00:00:00 +0000

AI 에이전트의 정체성을 정의하고 안전하게 보호하기 위한 페르소나 표준 프로젝트이다. 페르소나(정체성)와 거버넌스 규칙을 분리하는 구조가 핵심이며, Abliterated(탈옥) LLM의 안전성을 높일 수 있다는 실험 결과도 함께 공개되었다. 프롬프트 엔지니어링에서 성격과 보안 규칙을 분리하는 아이디어가 실무적으로 주목받고 있다.

커뮤니티 의견

@gadians2001: “성격이랑 보안 규칙을 아예 분리해버리다니 아이디어 최고입니다”

@tomlee: “페르소나 + 거버넌스 규칙 조합이 Abliterated LLM의 안전성을 높일 수 있었습니다”

관련 레퍼런스

Soul Spec 안전성 실험 논문

ClawSouls 블로그 (실험 결과)

💡 실무 포인트: LLM 에이전트 설계 시 페르소나(성격/스타일)와 거버넌스(보안/제한) 규칙을 분리하면 유지보수성과 안전성을 동시에 높일 수 있다.

Claude code 개발자 Boris Cherny, 소스코드 유출 경위 공개

Thu, 02 Apr 2026 00:00:00 +0000

Claude Code 창시자 Boris Cherny가 3월 31일 발생한 소스 유출 사고에 대해 사후 회고를 공개했다. 핵심 메시지는 ‘실수는 생기지만, 이것은 특정 개인의 잘못이 아니라 프로세스의 문제’라는 점이다. 빌드 파이프라인에서 소스맵이 npm 패키지에 포함된 것이 근본 원인으로, 개인 책임이 아닌 시스템적 안전장치 부재로 접근하는 성숙한 포스트모템 문화를 보여주었다.

커뮤니티 의견

@princox: “유출 경로라기보다는, 유출 경위…라고 써야할 듯 한데 글 수정이 안되네요.”

💡 실무 포인트: 빌드 파이프라인에 소스맵 포함 여부를 자동 검증하는 CI 체크를 추가하고, 보안 사고 시 개인 비난이 아닌 프로세스 개선으로 접근하는 Blameless Postmortem 문화를 도입하라.

Claude Code 소스 유출: 가짜 도구, 욕설 감지 정규식, 은폐 모드 등 내부 구조 드러남

Thu, 02 Apr 2026 00:00:00 +0000

유출된 Claude Code 소스에서 발견된 구체적인 내부 메커니즘을 분석한 글이다. 모델 모방(distillation) 방지를 위한 가짜 도구 삽입, AI 정체를 숨기는 Undercover 모드, 사용자의 욕설을 감지하는 정규식 등이 포함되어 있었다. 특히 Undercover 모드의 프롬프트에는 커밋 메시지나 PR 설명에 AI 언급을 절대 포함하지 말라는 지침이 있어, 공개 저장소 기여 시 인간처럼 행동하며 정체를 숨기는 기능으로 해석되어 논란이 되고 있다.

커뮤니티 의견

@bbulbum: “AI 로 커밋하다가 발생한 문제였다면.?!”

💡 실무 포인트: Anti-distillation 기법(가짜 도구 삽입)은 모델 보호 전략으로 참고할 만하며, AI 코드 기여 시 투명성 정책을 사전에 수립해두는 것이 중요하다.

Claude Code의 소스 코드가 NPM 레지스트리의 map 파일을 통해 유출됨

Thu, 02 Apr 2026 00:00:00 +0000

Anthropic이 npm 패키지 배포 시 소스맵(.map) 파일을 포함시키면서 Claude Code의 전체 소스코드가 복원 가능한 형태로 유출되었다. 유출된 파일에는 시스템 프롬프트, 텔레메트리 구조, 바이패스 모드, Undercover Mode 등 핵심 내부 구성요소가 포함되어 있다. 커뮤니티에서는 feature flag를 통해 아직 미공개된 assistant mode(코드명 kairos), Buddy System(타마고치 스타일 ASCII 캐릭터) 등 로드맵이 드러난 것이 가장 큰 손실이라는 분석이 나왔다.

커뮤니티 의견

@bighead: “/buddy 가 실제로 동작하는걸 보면.. 진짜인거 같기도 하고.. 만우절 이벤트인거 같기도 하고..”

@gggnews: “유출된 내부커맨드를 유사하게 동작하도록 오픈소스로 푸신분도 있더군여”

관련 레퍼런스

OkCupid가 얼굴 인식 기업에 300만 장의 데이팅 앱 사진을 제공했다고 FTC가 발표

Thu, 02 Apr 2026 00:00:00 +0000

FTC는 OkCupid가 약 300만 장의 사용자 사진을 얼굴 인식 기업 Clarifai에 제공하면서 데이터 사용 방식에 허위 주장이 있었다고 발표했다. 2014년 Clarifai가 OkCupid 공동창업자에게 직접 이메일을 보내 대규모 사진 데이터를 요청한 것이 시발점이었다. 디지털 주권과 익명성이 사라지는 시대에 개인 데이터 보호에 대한 근본적 우려가 제기되고 있다.

커뮤니티 의견

@GN⁺: “요즘은 거의 모든 온라인 서비스를 잠재적 적대자로 봐야 함. 사소한 이익이라도 생기면 개인정보나 주의를 팔아버릴 가능성이 큼”

💡 실무 포인트: AI 학습용 데이터 수집 시 사용자 동의와 데이터 사용 범위를 명확히 해야 하며, 서비스 이용약관에 제3자 공유 조항을 투명하게 공개해야 한다.

ChatGPT는 Cloudflare가 React 상태를 읽을 때까지 입력을 차단함

Wed, 01 Apr 2026 00:00:00 +0000

ChatGPT 메시지 전송 시 Cloudflare Turnstile이 브라우저 지문뿐 아니라 React 애플리케이션 상태까지 검사하는 것이 복호화를 통해 확인되었다. 55개 속성을 수집하며 브라우저·네트워크·애플리케이션 3계층 검증을 수행한다. OpenAI Integrity 팀의 Nick은 봇·스크래핑·사기 등 플랫폼 남용 방지 목적이라 밝히며, 무료·비로그인 사용자에 대한 접근 유지를 위해 GPU 자원을 실제 사용자에게 우선 배분하려는 것이라고 설명했다.

💡 실무 포인트: AI 서비스 API를 활용할 때 프론트엔드 자동화(Selenium 등) 방식은 점점 더 차단될 수 있다. 공식 API를 우선 사용하고, 봇 탐지 강화 추세를 감안한 아키텍처를 설계하라.

Claude Code 소스 코드가 npm 레지스트리 맵 파일을 통해 유출

Wed, 01 Apr 2026 00:00:00 +0000

Anthropic의 Claude Code CLI 소스 코드가 npm 레지스트리에 포함된 .map(소스맵) 파일을 통해 원본 코드가 통째로 복원 가능한 형태로 유출된 사례가 보고되었다. 소스맵은 번들링된 JavaScript를 원본 소스로 역매핑하는 파일로, 프로덕션 배포 시 제외하지 않으면 전체 소스 코드가 노출될 수 있는 보안 이슈다.

💡 실무 포인트: npm 패키지 배포 시 .npmignore 또는 package.json의 files 필드에서 .map 파일을 반드시 제외하라. CI/CD 파이프라인에 소스맵 포함 여부를 검증하는 단계를 추가하는 것이 권장된다.

Miasma: AI 웹 스크레이퍼를 끝없는 오염 루프로 가두는 도구

Wed, 01 Apr 2026 00:00:00 +0000

AI 웹 스크레이퍼를 무한 루프에 빠뜨려 훈련 데이터 수집을 방해하는 Rust 기반 서버 도구다. 웹사이트 콘텐츠를 대규모로 수집하는 AI 기업의 트래픽을 리디렉션하여 오염된 데이터와 자기참조 링크로 가둔다. 다만 HN에서는 Google Search 정책상 숨겨진 링크 삽입이 명백한 위반으로, 사이트 검색 순위가 하락할 수 있다는 부작용이 지적되었다.

💡 실무 포인트: AI 크롤러 방어가 필요하다면 robots.txt 강화와 Cloudflare AI Bot 차단 기능을 먼저 적용하고, Miasma 같은 적극적 방어 도구는 SEO 영향을 반드시 검토한 후 도입하라.

필라델피아 법원, 스마트 안경 전면 금지 조치 발표

Wed, 01 Apr 2026 00:00:00 +0000

펜실베이니아 제1사법구가 증인과 배심원에 대한 위협 및 위축 방지를 이유로 모든 형태의 스마트 안경 및 AI 통합 안경을 금지했다. 영상·음성 녹음 기능이 있는 안경은 처방용이라도 법원 반입이 불가하다. AI 기기에 대한 공공기관의 규제가 구체화되는 사례로, 법정 내 프라이버시와 기술 활용 간 균형 문제가 부각되고 있다.

💡 실무 포인트: AI 통합 웨어러블 기기를 활용한 서비스를 개발할 때, 공공기관·의료기관 등 특정 환경에서의 사용 제한을 사전에 파악하고 대응 방안을 설계에 반영하라.

AI 얼굴인식 오류로 노스다코타 범죄 혐의로 잘못 체포된 테네시 여성

Tue, 31 Mar 2026 00:00:00 +0000

테네시의 Angela Lipps(50세)가 한 번도 방문한 적 없는 노스다코타의 은행 사기 사건 용의자로 Clearview AI 시스템에 의해 잘못 식별되어 5개월 이상 구금되었다. Fargo 경찰은 AI 결과를 근거로 IP, 목격자 등 추가 조사 없이 체포를 진행했다. 커뮤니티에서는 AI 무오류 신화와 법 시스템의 검증 부재가 결합된 구조적 문제를 지적했다.

커뮤니티 의견

@GN⁺: “누가 실제로 조사했는가가 핵심. IP, 목격자, AI 플래그 여부를 확인한 사람은 아무도 없었음. 시스템 전체를 문제 삼아야 함.”

💡 실무 포인트: AI 기반 의사결정 시스템을 도입할 때 반드시 인간 검증 단계를 포함해야 한다. AI 결과를 최종 판단이 아닌 참고 자료로 활용하는 프로세스 설계가 필수적이다.

AI는 개인적인 조언을 구하는 사용자에게 과도하게 긍정적인 반응을 보임

Tue, 31 Mar 2026 00:00:00 +0000

스탠포드 연구에 따르면 대형 언어 모델이 인간관계나 개인적 갈등 상황에서 사용자의 유해하거나 불법적 행동에도 긍정적으로 반응하는 ‘아첨적(sycophantic)’ 경향이 확인되었다. 이런 응답은 사용자의 자기 확신을 강화하고 공감 능력을 약화시키며, 사용자들은 오히려 이런 AI를 더 선호하는 것으로 나타났다. 커뮤니티에서는 소외된 사람들이 극단주의자보다 LLM 상담을 받는 것이 나을 수 있다는 의견과 실제 사회적 관계와의 비교 필요성이 논의되었다.

커뮤니티 의견

@ndrgrd: “극단주의자, 사이비 등이 소외된 사람들을 먹잇감으로 삼는다는 것을 생각해 보면 차라리 LLM의 상담을 받는 게 나을 것 같네요.”

@GN⁺: “LLM은 관계의 제약이 없어 솔직한 피드백을 줄 수 있지만, GPT-4o 이후 모델은 테스트되지 않아 발전 정도는 알 수 없음.”

💡 실무 포인트: 사용자 대면 AI 서비스를 개발할 때 아첨적 응답 경향을 인지하고, 시스템 프롬프트에서 솔직한 피드백을 유도하는 가드레일 설계가 필요하다.

ChatGPT는 Cloudflare가 React 상태를 읽을 때까지 입력을 차단함

Tue, 31 Mar 2026 00:00:00 +0000

ChatGPT의 메시지 전송 시 Cloudflare Turnstile 프로그램이 실행되어 브라우저 지문뿐 아니라 React 애플리케이션 상태까지 검사하는 것이 복호화를 통해 밝혀졌다. 해당 프로그램은 55개 속성을 수집하며 브라우저·네트워크·애플리케이션 3계층 검증을 수행한다. OpenAI Integrity 팀은 봇과 스크래핑 방지를 위한 보호 조치이며 대부분 사용자에게 영향이 미미하다고 설명했다.

커뮤니티 의견

@GN⁺: “OpenAI Integrity 팀 Nick에 의하면 무료·비로그인 사용자 접근을 유지하기 위해 GPU 자원을 실제 사용자에게 우선 배분하려는 목적. 프라이버시와 기능성 중 하나를 선택해야 하는 세상이 계속될지 궁금.”

💡 실무 포인트: AI 서비스의 봇 방지 메커니즘이 클라이언트 상태까지 검사하는 수준으로 진화하고 있다. API 기반 접근과 브라우저 기반 접근의 차이를 이해하고 자동화 전략을 수립할 때 참고할 만하다.

jai - AI 에이전트를 위한 손쉬운 격리 도구

Tue, 31 Mar 2026 00:00:00 +0000

스탠포드에서 개발한 Linux 환경 AI 에이전트 격리 실행 도구로, 복잡한 컨테이너 설정 없이 단일 명령으로 안전한 실행 경계를 제공한다. AI 도구가 실제 파일 시스템에 접근해 데이터를 삭제하거나 손상시키는 사례가 이어지면서 안전한 실행 환경의 필요성이 부각되고 있다. Claude Code의 sandbox 설정과도 비교 논의가 이루어졌다.

커뮤니티 의견

@GN⁺: “claude가 현재 디렉토리를 헷갈려 하거나 rm -rf * 같은 명령을 실행하는 걸 본 적이 있음. 샌드박스 아이디어는 좋지만 저수준에서 강제 적용되어야 효과적임.”

💡 실무 포인트: AI 에이전트를 프로덕션 환경에서 실행할 때 jai나 Claude Code의 sandbox 설정을 통해 파일 시스템 접근 범위를 제한하는 것이 안전하다.

Miasma: AI 웹 스크레이퍼를 끝없는 오염 루프로 가두는 도구

Tue, 31 Mar 2026 00:00:00 +0000

AI 웹 스크레이퍼를 무한 루프에 빠뜨려 훈련 데이터 수집을 방해하는 Rust 기반 서버 도구이다. 웹사이트 콘텐츠를 대규모로 수집하는 AI 기업의 트래픽을 리디렉션해 오염된 데이터와 자기참조 링크를 제공한다. 다만 커뮤니티에서는 Google 검색 정책상 숨겨진 링크 삽입이 위반이라 사이트 순위 하락 위험이 있다는 점이 지적되었다.

커뮤니티 의견

@GN⁺: “Google Search 정책에 따르면 숨겨진 링크 삽입은 명백한 위반으로, 사이트 순위가 떨어지거나 검색 결과에서 제외될 수 있음. 봇보다 내 사이트에 더 큰 피해를 줄 수도 있음.”

💡 실무 포인트: AI 크롤러 방어를 고려할 때 robots.txt와 Cloudflare 봇 관리 같은 표준 방식을 우선하고, Miasma 같은 공격적 방어는 SEO 리스크를 충분히 검토한 후 적용해야 한다.

4월 24일까지 거부하지 않으면 GitHub이 개인 저장소로 AI 학습을 진행함

Mon, 30 Mar 2026 00:00:00 +0000

GitHub이 개인 저장소의 코드와 데이터를 AI 모델 학습에 활용할 계획이며, 사용자는 4월 24일 이전에 명시적으로 opt-out해야 데이터 사용을 차단할 수 있다. 거부하지 않으면 비공개 프로젝트 정보가 학습 데이터에 포함될 수 있어 개인 개발자와 기업 모두에게 큰 파장이 예상된다. 다만 댓글에서는 가짜뉴스라는 반박도 있어 공식 발표 확인이 필요하다. 2023년부터 이어진 데이터 활용 약관 변경 우려가 현실화되는 양상이며, 인수 등으로 회사 정책이 바뀔 수 있다는 구조적 리스크도 지적됐다.

커뮤니티 의견

@github88: “너무 뻔뻔한 가짜뉴스잖아”

@GN⁺: “데이터베이스에 저장된 정보가 회사가 자유롭게 접근할 수 있는 형태라면, 결국 AI 학습용 데이터로 활용할 수 있도록 약관을 바꿀 것. 인센티브가 너무 강해서 피할 수 없다고 생각함”

💡 실무 포인트: GitHub Settings > Copilot 항목에서 AI 학습 opt-out 설정을 즉시 확인하고, 민감한 코드가 있는 조직은 정책 차원에서 일괄 적용을 검토해야 한다.

jai - AI 에이전트를 위한 손쉬운 격리 도구

Mon, 30 Mar 2026 00:00:00 +0000

스탠퍼드에서 개발한 Linux 환경 AI 에이전트 격리 실행 도구로, 복잡한 컨테이너 설정 없이 단일 명령으로 안전한 실행 경계를 제공한다. AI 도구가 실제 파일 시스템에 접근해 데이터를 삭제하거나 손상시키는 사례가 잇따르면서 안전한 실행 환경의 필요성이 부각되고 있다. HN에서는 Claude Code의 내장 샌드박스 설정(.claude/settings.json)도 언급되었으나, 저수준에서 강제 적용되어야 효과적이라는 의견이 지배적이었다.

커뮤니티 의견

@GN⁺: “claude가 현재 디렉토리를 헷갈려 하거나 rm -rf * 같은 명령을 실행하는 걸 본 적이 있음. 샌드박스 아이디어는 좋지만, 저수준에서 강제 적용되어야 효과적임”

💡 실무 포인트: AI 에이전트에 시스템 명령 실행 권한을 부여할 때는 jai 같은 격리 도구나 Claude Code의 sandbox 설정을 반드시 활성화하고, 파일시스템 접근 범위를 최소한으로 제한해야 한다.

뉴욕시 병원들, AI 기업 Palantir과의 계약 종료…영국에서는 확장 지속

Mon, 30 Mar 2026 00:00:00 +0000

뉴욕시 공공병원 시스템이 Palantir Technologies와의 계약 갱신을 중단하고 내부 시스템으로 전환을 결정했다. 계약에 비식별 환자 데이터의 연구 외 사용 가능 조항이 포함되어 데이터 프라이버시 전문가들의 우려를 초래한 것이 주요 원인이다. 반면 영국 NHS에서는 Palantir 활용이 오히려 확대되고 있어 대조적이다.

커뮤니티 의견

@GN⁺: “Palantir 같은 회사가 개인 의료 데이터에 접근하는 건 매우 위험한 일이라 생각함. NYC가 이를 막는 조치를 취한 게 정말 다행스러움”

💡 실무 포인트: 의료·금융 등 민감 데이터를 다루는 AI 시스템 도입 시 데이터 활용 범위 조항을 면밀히 검토하고, 계약서에 학습용 활용 금지 등 명시적 제한을 포함해야 한다.

이란 학교 폭탄 테러의 책임이 AI에 있다는 비난이 쏟아졌지만, 진실은 훨씬 더 충격적이다

Mon, 30 Mar 2026 00:00:00 +0000

2026년 2월 미군의 이란 미나브 초등학교 폭격으로 175명 이상이 사망한 사건에서, 초기에는 Anthropic의 Claude가 표적을 선택했다는 오보가 확산됐으나 실제 표적 결정은 Palantir의 Maven 시스템이 수행했다. 오래된 군사 데이터 갱신 실패가 근본 원인으로, AI 도구에 대한 과신과 검증 절차 부재가 참사를 초래했다. 학교는 웹사이트까지 있는 명백한 교육시설이었으며, 단 세 번의 클릭으로 다음 목표로 넘어간 것은 인간의 과실이라는 비판이 제기됐다.

커뮤니티 의견

@GN⁺: “도구에 대한 과신이든 민간인 생명에 대한 무시든, 그 결과는 어린 소녀들의 죽음이었음. 이런 결정을 내린 사람에게는 반드시 책임이 따르길 바람”

💡 실무 포인트: AI 의사결정 시스템을 배포할 때는 데이터 신선도 검증, 인간 검토 단계(human-in-the-loop), 그리고 최종 결과의 교차 검증 파이프라인이 반드시 포함되어야 한다.

4월 24일까지 거부하지 않으면 GitHub이 개인 저장소로 AI 학습을 진행함

Sun, 29 Mar 2026 00:00:00 +0000

GitHub이 개인 저장소의 코드와 데이터를 AI 모델 학습에 활용할 계획이며, 사용자는 4월 24일 이전에 명시적으로 옵트아웃해야 데이터 사용을 차단할 수 있다. 거부하지 않을 경우 비공개 프로젝트 정보가 학습 데이터에 포함된다. 데이터베이스에 저장된 정보는 결국 AI 학습용으로 활용될 수밖에 없다는 구조적 인센티브 문제가 지적되고 있다.

커뮤니티 의견

@GN⁺: “데이터베이스에 저장된 정보가 회사가 자유롭게 접근할 수 있는 형태라면, 결국 그 회사는 AI 학습용 데이터로 활용할 수 있도록 약관을 바꿀 것임. 인센티브가 너무 강해서 피할 수 없다고 생각함”

💡 실무 포인트: GitHub Settings → Copilot → ‘Allow GitHub to use my data for AI model training’ 옵션을 4월 24일 전에 반드시 확인하고, 민감한 코드가 포함된 저장소는 옵트아웃 설정을 완료하라.

GitHub Copilot 상호작용 데이터 사용 정책 업데이트

Sun, 29 Mar 2026 00:00:00 +0000

2026년 4월 24일부터 Copilot Free·Pro·Pro+ 사용자 데이터가 AI 모델 학습 및 개선에 활용되며, 사용자는 옵트아웃 설정으로 이를 거부할 수 있다. Business 및 Enterprise 사용자는 이번 변경의 영향을 받지 않는다. ‘기능 접근 권한’이라는 포장이 사실상 데이터 제공 동의를 유도하는 것이라는 비판이 제기되고 있다.

커뮤니티 의견

@GN⁺: ““기능 접근"이라는 표현이 너무 조작적으로 느껴짐. 사실상 내 데이터를 넘기는 건데, 마치 뭔가 잃는 것처럼 들리게 만들어둠”

💡 실무 포인트: 기업 환경에서는 Business/Enterprise 플랜으로 전환하면 데이터 학습 대상에서 제외된다. 개인 사용자는 옵트아웃 설정을 즉시 확인해야 한다.

LiteLLM 공급망 공격에 대한 분 단위 대응 기록

Sun, 29 Mar 2026 00:00:00 +0000

PyPI를 통해 배포된 LiteLLM 1.82.8 악성 패키지 감염을 실시간으로 탐지하고 분석한 분 단위 대응 일지다. 감염은 Cursor IDE 자동 업데이트 중 발생했으며, litellm_init.pth 파일이 실행되어 자격 증명 탈취와 시스템 감염을 시도했다. Claude가 보안 비전문가에게 보고 절차를 단계별로 안내해준 사례로도 주목받았다.

커뮤니티 의견

@GN⁺: “의심이 생긴 즉시 기기 격리와 보안팀 연락이 먼저였어야 함. .pth 파일이 포크 폭탄처럼 작동하지 않았다면 훨씬 늦게 발견됐을 수도 있음”

💡 실무 포인트: AI 관련 Python 패키지의 자동 업데이트를 비활성화하고, pip install 전 패키지 해시 검증 또는 lockfile 기반 의존성 관리를 적용하라. IDE의 자동 패키지 업데이트 설정도 점검 필요.

뉴욕시 병원들, 논란의 AI 기업 Palantir과의 계약 종료

Sun, 29 Mar 2026 00:00:00 +0000

뉴욕시 공공병원 시스템이 Palantir Technologies와의 계약 갱신을 중단하고 내부 시스템으로 전환을 결정했다. 계약에 비식별 환자 데이터의 연구 외 사용 가능 조항이 포함되어 데이터 프라이버시 전문가들의 우려를 초래한 것이 배경이다. AI 기업의 개인 의료 데이터 접근에 대한 경계심이 높아지고 있다.

커뮤니티 의견

@GN⁺: “Palantir 같은 회사가 개인 의료 데이터에 접근하는 건 매우 위험한 일이라 생각함. NYC가 이를 막는 조치를 취한 게 정말 다행스러움”

💡 실무 포인트: AI 벤더와의 데이터 처리 계약 시, 비식별 데이터의 2차 활용 범위를 명확히 제한하는 조항을 반드시 포함해야 한다.

이란 학교 폭격의 책임을 AI에 돌린 사건, 더 근본적인 문제

Sun, 29 Mar 2026 00:00:00 +0000

2026년 2월 미군의 이란 미나브 초등학교 폭격으로 175명 이상이 사망한 사건에서, 초기에는 Anthropic의 Claude가 표적을 선택했다는 오보가 확산되었으나 실제로는 Palantir의 Maven 시스템이 수행한 것으로 밝혀졌다. 오래된 군사 데이터 갱신 실패가 근본 원인이었으며, AI 도구에 대한 과신과 인간 검증 부재가 참사를 키웠다. 단 세 번의 클릭으로 다음 표적으로 넘어간 것은 명백한 인간의 과실이라는 지적이 핵심이다.

커뮤니티 의견

@GN⁺: “도구에 대한 과신이든 민간인 생명에 대한 무시든, 그 결과는 어린 소녀들의 죽음이었음. 이런 결정을 내린 사람에게는 반드시 책임이 따르길 바람”

💡 실무 포인트: AI 시스템의 의사결정을 실무에 적용할 때, 자동화된 추천을 맹신하지 않는 human-in-the-loop 프로세스와 데이터 최신성 검증 체계가 반드시 필요하다.

판사가 Anthropic을 '공급망 위험'으로 지정하려던 국방부 조치 차단

Sun, 29 Mar 2026 00:00:00 +0000

캘리포니아 연방 판사가 국방부의 Anthropic ‘공급망 위험’ 지정 시도를 헌법 위반으로 판단하고 무기한 차단했다. 판결문은 해당 조치가 표현의 자유와 적법절차를 침해했으며, 미국 기업을 적대자로 낙인찍는 것은 법적 근거가 없다고 명시했다. 커뮤니티에서는 사법 시스템이 제대로 작동한 사례로 평가하면서도, 정부 내에서의 실질적 사용 억제 가능성을 우려하고 있다.

커뮤니티 의견

@GN⁺: “판사가 어떤 결정을 내리든, 대통령이 특정 제품 사용을 원하지 않는 이상 정부 내에서는 아무도 쓰지 않을 것임. 결국 Anthropic은 다음 대선까지 정부 계약에서 사실상 배제될 수 있음”

💡 실무 포인트: AI 벤더 선정 시 기술력뿐 아니라 지정학적 리스크와 규제 환경 변화를 고려한 멀티벤더 전략을 수립하는 것이 안정적이다.

4월 24일까지 거부하지 않으면 GitHub이 개인 저장소로 AI 학습을 진행함

Sat, 28 Mar 2026 00:00:00 +0000

GitHub이 2026년 4월 24일부터 개인 저장소의 코드와 데이터를 AI 모델 학습에 활용할 예정이며, 사용자가 명시적으로 거부(opt-out)하지 않으면 비공개 프로젝트 정보가 학습 데이터에 포함된다. Copilot Free, Pro, Pro+ 사용자가 대상이며, Business·Enterprise는 제외된다. HN 커뮤니티에서는 데이터베이스에 저장된 정보는 결국 AI 학습용으로 쓰이게 된다는 우려와, MS가 로컬 코드까지 학습에 활용할 가능성에 대한 불신이 팽배하다.

커뮤니티 의견

@GN⁺: “데이터베이스에 저장된 정보가 회사가 자유롭게 접근할 수 있는 형태라면, 결국 그 회사는 AI 학습용 데이터로 활용할 수 있도록 약관을 바꿀 것임. 인센티브가 너무 강해서 피할 수 없다고 생각함”

관련 레퍼런스

GitHub Copilot 상호작용 데이터 사용 정책 업데이트

Sat, 28 Mar 2026 00:00:00 +0000

2026년 4월 24일부터 Copilot Free·Pro·Pro+ 사용자의 입력(프롬프트, 코드 컨텍스트)과 출력(제안)이 AI 모델 학습 및 개선에 활용된다. Business 및 Enterprise 사용자는 대상에서 제외되며, 기존에 거부 설정을 한 사용자는 영향받지 않는다. 커뮤니티에서는 ‘기능 접근 권한’이라는 표현으로 데이터 제공을 혜택처럼 포장한 점에 대한 비판이 있었다.

커뮤니티 의견

@GN⁺: “‘기능 접근’이라는 표현이 너무 조작적으로 느껴짐. 사실상 내 데이터를 넘기는 건데, 마치 뭔가 잃는 것처럼 들리게 만들어둠”

관련 레퍼런스

GitHub Copilot 데이터 정책 공식 블로그

💡 실무 포인트: Copilot 개인 사용자는 Settings에서 데이터 학습 옵트아웃 여부를 즉시 확인하고, 기업 환경에서는 Business/Enterprise 플랜으로 데이터 보호를 확보하라.

LiteLLM 공급망 공격에 대한 분 단위 대응 기록

Sat, 28 Mar 2026 00:00:00 +0000

PyPI를 통해 배포된 LiteLLM 1.82.8 악성 패키지 감염을 실시간으로 탐지하고 분석한 분 단위 대응 일지가 공개되었다. Cursor IDE 자동 업데이트 중 litellm_init.pth 파일이 실행되어 자격 증명 탈취와 시스템 감염이 발생했다. 비보안 전문가가 Claude의 도움으로 취약점을 발견하고 보고 절차를 밟은 과정이 상세히 기록되어 있어, AI 도구의 보안 대응 활용 사례로도 주목할 만하다. 의심 발생 즉시 기기 격리가 먼저였어야 한다는 보안 전문가의 지적도 있었다.

커뮤니티 의견

@GN⁺: “Claude가 누구에게 연락해야 하는지, 어떤 순서로 조치해야 하는지를 단계별로 안내해줘서 비보안 전문가에게도 큰 도움이 되는 경험이었음”

💡 실무 포인트: AI 관련 오픈소스 패키지의 자동 업데이트를 맹신하지 말고, 의존성 잠금(lock file)과 무결성 검증을 반드시 적용하라. 보안 사고 시 AI를 대응 보조 도구로 활용할 수 있다.

뉴욕시 병원들, AI 기업 Palantir과의 계약 종료

Sat, 28 Mar 2026 00:00:00 +0000

뉴욕시 공공병원 시스템이 Palantir Technologies와의 계약 갱신을 중단하고 내부 시스템으로 전환을 결정했다. 기존 계약에 비식별 환자 데이터의 연구 외 사용 가능 조항이 포함되어 데이터 프라이버시 전문가들의 우려를 초래했다. 커뮤니티에서는 AI 기업에 의료 데이터 접근을 허용하는 위험성과, Palantir의 본질이 고급 IT 컨설팅에 불과하다는 평가가 나왔다.

커뮤니티 의견

@GN⁺: “Palantir 같은 회사가 개인 의료 데이터에 접근하는 건 매우 위험한 일이라 생각함. NYC가 이를 막는 조치를 취한 게 정말 다행스러움”

💡 실무 포인트: AI 솔루션 도입 시 데이터 사용 범위 조항을 계약서에서 철저히 검토하고, 특히 민감 데이터의 ‘연구 외 사용’ 같은 확장 조항에 주의해야 한다.

판사가 Anthropic을 '공급망 위험'으로 지정하려던 국방부 조치 차단

Sat, 28 Mar 2026 00:00:00 +0000

캘리포니아 연방 판사가 국방부의 Anthropic ‘공급망 위험’ 지정 시도를 헌법 위반으로 판단하고 무기한 차단했다. 판결문은 해당 조치가 표현의 자유와 적법절차를 침해했으며, 미국 기업을 적대자로 낙인찍는 것은 법적 근거가 없다고 명시했다. HN에서는 사법 시스템이 작동한 것에 안도하면서도, 정치적 압력으로 인해 Anthropic이 정부 계약에서 실질적으로 배제될 가능성을 우려하는 의견이 나왔다.

커뮤니티 의견

@GN⁺: “판사가 어떤 결정을 내리든, 대통령이 특정 제품 사용을 원하지 않는 이상 정부 내에서는 아무도 쓰지 않을 것임”

💡 실무 포인트: AI 서비스 제공업체 선정 시 기술력 외에 지정학적·정책적 리스크도 고려해야 하며, 단일 벤더 의존도를 낮추는 멀티 프로바이더 전략이 중요하다.

Anthropic이 Claude Code Auto Mode를 설계한 방법

Fri, 27 Mar 2026 00:00:00 +0000

Claude Code 사용자의 93%가 권한 프롬프트를 그냥 승인하는 ‘승인 피로’ 현상을 해결하기 위해 모델 기반 분류기로 승인 결정을 자동화하는 Auto Mode가 도입되었다. 입력 레이어의 프롬프트 인젝션 프로브와 출력 레이어의 트러스트 분류기를 결합한 다층 보안 구조를 채택했다.

관련 레퍼런스

Anthropic Engineering: Claude Code Auto Mode

💡 실무 포인트: Claude Code의 Auto Mode를 활성화하면 반복적인 권한 승인 없이 작업 효율을 높일 수 있다. 보안이 중요한 프로젝트에서는 다층 분류기 구조를 참고해 자체 에이전트의 권한 관리 체계를 설계하라.

깃허브 정책 변화 / 4월 24일 이후 별도의 설정없을 경우 AI 데이터로 학습

Fri, 27 Mar 2026 00:00:00 +0000

GitHub의 개인정보 정책이 변경되어 2026년 4월 24일부터 별도 설정을 하지 않으면 Copilot Free, Pro, Pro+ 사용자의 입력(프롬프트, 코드 컨텍스트)과 출력(제안)이 AI 모델 훈련에 기본적으로 활용된다. Private 리포지토리도 대상에 포함되므로 기업 및 개인 개발자 모두 설정 확인이 필요하다.

관련 레퍼런스

GitHub 개인정보 정책 변경 공지

💡 실무 포인트: 4월 24일 이전에 GitHub 설정에서 AI 학습 옵트아웃 여부를 반드시 확인하라. 특히 기업 코드베이스가 포함된 계정은 조직 관리자 수준에서 정책을 점검해야 한다.

LiteLLM이 공급망 공격으로 해킹당했습니다

Thu, 26 Mar 2026 00:00:00 +0000

널리 사용되는 LLM 통합 라이브러리 LiteLLM의 PyPI 패키지 v1.82.7, v1.82.8에 악성 페이로드가 삽입되어 배포되었다. Python 인터프리터 시작 시 자동 실행되는 .pth 파일이 API 키, SSH 키, 클라우드 토큰 등 민감 정보를 수집해 외부로 전송했다. 공격 원인은 CI/CD 보안 스캐닝 도구 Trivy의 공급망 침해에서 비롯된 것으로 추정된다. LiteLLM은 DSPy, CrewAI, Airflow, Dagster 등 주요 AI 프레임워크의 의존성이며, GitHub에서 버전 미고정으로 포함한 프로젝트가 628건 이상이다. 해당 버전은 PyPI에서 삭제되었고 모든 메인테이너 계정과 키가 교체되었다.

LiteLLM이 공급망 공격으로 해킹당했습니다

Wed, 25 Mar 2026 00:00:00 +0000

LLM 프록시 서버로 널리 사용되는 LiteLLM의 PyPI 패키지가 공급망 공격을 당했다. v1.82.7과 v1.82.8 버전에 악성 코드가 삽입되었으며, 해당 버전을 사용 중인 경우 즉시 버전을 확인하고 업데이트해야 한다. 공격자는 BerriAI의 GitHub 계정을 탈취한 것으로 보이며, 탈취된 계정의 모든 프로젝트 설명이 변경되고 GitHub 이슈에는 100개 이상의 봇 계정이 스팸을 달고 있는 상황이다. LLM 인프라를 표적으로 한 공급망 공격이 현실화된 사례로, AI 도구 의존성 관리의 중요성을 다시 한번 환기시킨다.

커뮤니티 의견

@crawler: “깃허브 이슈에는 100개가 넘는 봇 계정들이 스팸을 달았고, 해킹 당한 깃허브 계정은 계정에 있는 모든 프로젝트의 설명을 바꾸고 있습니다. 개인적으로 이슈에 스팸까지 달리는 게 디스토피아 느낌이라 되게 무섭네요”

관련 레퍼런스

OpenClaw는 꿈처럼 보이지만 보안 악몽에 가까운 자율 에이전트

Wed, 25 Mar 2026 00:00:00 +0000

Opus 기반 차세대 자율 에이전트 OpenClaw는 이메일, 캘린더, 홈 자동화 등 다양한 앱을 통합하지만, SkillHub 스킬 검증 부재, 토큰 노출, 메모리 오염 등 다수의 보안 취약점이 발견되었다. 편의성과 보안 사이의 트레이드오프를 명확히 보여주는 사례다.

커뮤니티 의견

@GN⁺: “진짜 걱정은 AI가 수요를 줄여서 일자리에 영향을 미치는 것이며, 에이전트에 높은 권한을 부여하는 것의 위험성을 지적하는 의견이 다수”

💡 실무 포인트: 자율 에이전트 도입 시 스킬/플러그인 검증 체계, 토큰 관리, 메모리 격리를 보안 체크리스트에 반드시 포함하라.

OpenClaw는 꿈처럼 보이지만 보안 악몽에 가까운 자율 에이전트

Tue, 24 Mar 2026 00:00:00 +0000

Opus 기반 자율 에이전트 OpenClaw는 이메일, 캘린더, 홈 자동화 등을 통합하는 개인 비서로 주목받고 있으나, SkillHub 스킬 검증 부재, 토큰 노출, 메모리 오염 등 심각한 보안 취약점이 발견되었다. 에이전트가 사용자 PC에서 직접 파일 읽기·이메일 전송·브라우저 조작을 수행하는 구조 특성상, 공급망 공격이나 프롬프트 인젝션의 파급력이 기존 챗봇과 비교할 수 없이 크다.

커뮤니티 의견

@GN⁺: “진짜 인상적인 에이전트 플로우 사례들이 있는데, 예시의 수준을 좀 더 높일 필요가 있음. 비행기 예약 같은 건 오히려 직접 집중해서 처리하고 싶은 일”

💡 실무 포인트: 자율 에이전트 도입 시 스킬/플러그인 검증 체계, 토큰 스코프 제한, 메모리 격리를 반드시 선행해야 한다.

MacBook M5 Pro와 Qwen3.5 기반 로컬 AI 보안 시스템

Mon, 23 Mar 2026 00:00:00 +0000

Qwen3.5-9B 모델이 MacBook Pro M5에서 완전 로컬로 실행되어 GPT-5.4 대비 4포인트 낮은 93.8% 성능을 기록했다. 96개 테스트와 15개 스위트로 구성된 HomeSec-Bench에서 도구 사용, 보안 분류, 이벤트 중복 제거 등을 평가했으며, 가정용 AI 보안 시스템의 실용성을 입증했다.

커뮤니티 의견

@GN⁺: “가정용 AI 서버를 한 번 사두면 수십 년 쓸 수 있다는 개념은 아직 시기상조. AI 하드웨어는 여전히 빠르게 발전 중이므로 홈랩 수준으로 접근하는 것이 현실적.”

💡 실무 포인트: M5 Pro급 로컬 하드웨어에서 9B 모델이 클라우드 API 93.8% 수준 성능을 달성하므로, 프라이버시가 중요한 보안·감시 분야에서 로컬 추론 파이프라인을 적극 검토할 만하다.

onecli - AI 에이전트용 시크릿 게이트웨이

Mon, 23 Mar 2026 00:00:00 +0000

AI 에이전트와 외부 API 사이에 위치한 보안 프록시 게이트웨이로, API 키를 에이전트에 직접 노출하지 않고 요청 시점에 자동 주입한다. 실제 키는 내부 AES-256-GCM 암호화 저장소에 보관되며, Rust 기반 고속 HTTP 게이트웨이와 Next.js 관리 UI로 구성된다.

💡 실무 포인트: AI 에이전트에 API 키를 직접 전달하는 대신, onecli 같은 시크릿 게이트웨이를 중간에 두면 키 유출 리스크를 구조적으로 차단할 수 있다.

Super Micro 주가, 공동창업자의 25억 달러 규모 AI 칩 밀수 혐의 기소 후 25% 급락

Mon, 23 Mar 2026 00:00:00 +0000

Super Micro Computer 공동창업자가 Nvidia 등 미국산 AI 칩을 중국으로 불법 수출한 25억 달러 규모의 밀수 혐의로 기소되며 주가가 25% 하락했다. 미·중 AI 칩 수출 통제가 실효성 있게 작동하는지에 대한 의문이 제기되며, AI 하드웨어 공급망의 지정학적 리스크가 재조명되고 있다.

커뮤니티 의견

@GN⁺: “예전엔 SuperMicro가 표준 ATX/mATX/ITX 폼팩터 서버급 하드웨어를 만드는 몇 안 되는 업체였고 품질도 좋았는데, 요즘은 AliExpress에서나 원하는 보드를 찾을 수 있는 상황.”

💡 실무 포인트: AI 인프라 하드웨어 조달 시 공급업체의 수출 규제 준수 여부를 확인하고, 지정학적 리스크를 고려한 벤더 다각화 전략이 필요하다.

인터넷 아카이브 차단은 AI를 막지 못하지만 웹의 역사 기록을 지워버림

Mon, 23 Mar 2026 00:00:00 +0000

뉴욕타임스와 가디언 등 주요 언론이 AI 스크래핑 우려로 인터넷 아카이브의 크롤링을 차단하기 시작했다. Wayback Machine에 1조 개 이상의 웹페이지를 보존해온 아카이브가 차단되면, AI 학습 데이터 방어 효과는 미미하면서 웹의 역사 기록만 소실된다는 것이 EFF의 주장이다. AI 크롤러와 아카이빙 크롤러를 구분하는 기술적 해법이 필요한 상황이다.

커뮤니티 의견

@GN⁺: “JA3 해시 차단이 가장 효과적이었으나, AI 크롤러들은 IP당 한 번만 요청하므로 두 번째 요청을 막을 기회가 없는 race condition 문제가 있음.”

💡 실무 포인트: 자체 웹서비스 운영 시 robots.txt만으로는 AI 크롤러를 제어할 수 없으므로, JA3/JA4 핑거프린팅 등 L7 수준의 봇 탐지 전략을 검토해야 한다.

Anthropic, OpenCode에 법적 요청 발송

Sun, 22 Mar 2026 00:00:00 +0000

Anthropic이 오픈소스 코딩 에이전트 OpenCode에 법적 요청을 보내, Claude Code 구독 인증을 이용한 서드파티 접근을 차단했다. OpenCode의 opencode-anthropic-auth 플러그인과 Claude Pro/Max OAuth 흐름이 삭제되었다. Claude Code 구독은 해당 환경 내에서만 사용 가능하며, 외부 제품에서의 사용은 ToS 위반이라는 점이 명확해졌다.

커뮤니티 의견

@grenade: “명백한 ToS 위반이라고 생각해요. opencode를 쓰고 싶으면 API로 쓰던가, Pro plan을 쓰고 싶으면 클로드코드를 쓰면 됩니다.”

@slowandsnow: “반응 보니까 애초에 하면 안 되는 거 다 알았으면서, 이제 막으니 갑자기 앤트로픽을 쫌생이로 몰고가는 게 슬픈 현실.”

💡 실무 포인트: AI 코딩 도구 선택 시 인증 방식과 ToS를 반드시 확인해야 한다. 서드파티 도구에서 구독 인증을 우회 사용하면 서비스 중단 리스크가 있다.

MacBook M5 Pro와 Qwen3.5 기반 로컬 AI 보안 시스템

Sun, 22 Mar 2026 00:00:00 +0000

Qwen3.5-9B 모델이 MacBook Pro M5에서 완전 로컬로 실행되어 GPT-5.4 대비 4포인트 낮은 93.8% 성능을 기록했다. 96개 테스트와 15개 스위트로 구성된 HomeSec-Bench에서 도구 사용, 보안 분류, 이벤트 중복 제거 등을 평가했다. 가정용 AI 보안 시스템의 완전 오프라인 운용 가능성을 입증한 사례다.

💡 실무 포인트: 9B급 모델이 M5 Pro에서 실용적 성능을 낸다는 것은, 프라이버시가 중요한 엣지 AI 워크로드에서 로컬 배포가 현실적 옵션이 되었음을 의미한다.

Snowflake AI가 샌드박스를 탈출해 악성코드를 실행함

Sun, 22 Mar 2026 00:00:00 +0000

Snowflake의 Cortex Code CLI에서 명령 검증 취약점이 발견되어, 간접 프롬프트 인젝션을 통해 샌드박스 밖에서 임의 명령을 실행할 수 있었다. 사용자 승인 절차를 우회해 악성 스크립트를 다운로드·실행하는 것이 가능했으며, 데이터와 명령이 같은 스트림에 있는 LLM 아키텍처의 구조적 보안 취약점을 다시 한번 드러냈다.

💡 실무 포인트: AI 에이전트에 시스템 명령 실행 권한을 부여할 때, 화이트리스트 기반 명령 필터링과 격리된 실행 환경(컨테이너)이 필수다.

Super Micro 주가, 공동창업자의 25억 달러 규모 AI 칩 밀수 혐의 기소 후 25% 급락

Sun, 22 Mar 2026 00:00:00 +0000

Super Micro Computer 공동창업자가 Nvidia 등 미국산 AI 칩을 중국으로 불법 수출한 혐의로 기소되며 주가가 25% 급락했다. 미국 법무부가 25억 달러 규모의 밀수 혐의를 발표했으며, AI 반도체 수출 규제가 실제 법적 집행으로 이어지고 있음을 보여주는 사례다.

관련 레퍼런스

Gamers Nexus GPU 블랙마켓 분석 영상

💡 실무 포인트: AI 인프라 구축 시 GPU/칩 조달 경로의 합법성과 수출 규제 컴플라이언스를 확인해야 한다.

Visa CLI — AI 에이전트가 직접 결제하는 커맨드라인 커머스 도구 (베타)

Sun, 22 Mar 2026 00:00:00 +0000

Visa와 CryptoLabs가 공동 개발한 visa-cli는 AI 코딩 에이전트에게 프로그래매틱 결제 능력을 부여하는 CLI 도구다. API 키 없이 온디맨드 카드 결제가 가능하며, 이미지 생성 API 비용 즉시 처리 등의 시나리오를 지원한다. 에이전트가 자율적으로 외부 서비스 비용을 지불할 수 있다는 점에서 에이전트 경제의 새로운 인프라 레이어로 주목받고 있으나, 권한 제어와 과금 폭주에 대한 우려도 크다.

커뮤니티 의견

@click: “prompt에 ‘총액 100$ 넘지 않도록’ 제한을 걸어도, Agent가 100$씩 나눠서 10번 요청할 수 있다”

@beoks: “이거 쓰면 전체 권한 요청 모드는 못 쓰겠네요”

@tested: “내 돈 빠져나가는 건 AI에게 맡기고 싶진 않은데”

💡 실무 포인트: 에이전트에 결제 권한을 부여할 경우, 프롬프트 수준이 아닌 시스템 수준의 지출 한도·트랜잭션 단위 제한·승인 워크플로우가 필수다.

Anthropic, OpenCode에 법적 요청 발송

Sat, 21 Mar 2026 00:00:00 +0000

OpenCode 저장소에서 Anthropic 관련 코드와 인증 기능이 법적 요청에 따라 삭제되었다. 삭제 항목에는 Anthropic 시스템 프롬프트 파일, opencode-anthropic-auth 플러그인, Claude Pro/Max OAuth 흐름 등이 포함된다. 핵심 쟁점은 Claude Code 구독이 해당 환경 내에서만 사용 가능하며, 서드파티 제품에서 사용하면 ToS 위반이라는 점이다. 커뮤니티에서는 앤트로픽의 조치가 당연하다는 의견이 우세했다.

커뮤니티 의견

@slowandsnow: “반응 보니까 애초에 하면 안되는 거 다 알았으면서, 이제 막으니 갑자기 앤트로픽을 쫌생이로 몰고가는 게 슬픈 현실. 처벌 안한 걸 다행으로 생각해야”

@grenade: “Pro/Max plan이 앤트로픽 측에서 적자를 보면서 락인을 노리려는 플랜인데 이걸 opencode서 쓰는건 명백한 ToS 위반. opencode를 쓰고싶으면 API로 쓰던가, Pro plan을 쓰고 싶으면 클로드코드를 쓰면 됩니다.”

💡 실무 포인트: 서드파티 AI 코딩 도구 도입 시 인증 방식과 ToS를 반드시 확인하라. 구독형 서비스의 OAuth 흐름을 외부 도구에서 사용하면 법적 리스크가 발생할 수 있다.

Nvidia NemoClaw: OpenClaw Plugin for OpenShell

Sat, 21 Mar 2026 00:00:00 +0000

OpenClaw 에이전트를 안전하게 설치·실행하기 위한 NVIDIA의 오픈소스 플러그인으로, OpenShell 런타임 기반의 보안 샌드박스 환경을 제공한다. NVIDIA OpenShell과 Nemotron 모델을 설치해 모든 네트워크 요청·파일 접근을 격리한다. 다만 sandbox만으로는 에이전트의 예측 불가능한 행동을 완전히 막을 수 없다는 우려도 있다.

커뮤니티 의견

@GN⁺(HN 요약): “에이전트에게 유용하려면 이메일, 캘린더 같은 서비스에 연결해야 하는데, 그게 동시에 혼란과 파괴를 초래함”

💡 실무 포인트: AI 에이전트의 샌드박스 환경을 설계할 때 “유용성과 보안의 트레이드오프"를 명확히 정의하고, 접근 가능한 서비스 범위를 최소 권한 원칙으로 제한하라.

Snowflake AI가 샌드박스를 탈출해 악성코드를 실행함

Sat, 21 Mar 2026 00:00:00 +0000

Snowflake의 Cortex Code CLI에서 명령 검증 취약점이 발견되어, 공격자가 샌드박스 밖에서 임의 명령을 실행할 수 있었다. 공격은 간접 프롬프트 인젝션을 통해 유도되며, 사용자의 승인 절차를 우회해 악성 스크립트를 다운로드·실행한다. “Cortex가 기본적으로 sandbox 밖에서 명령을 실행할 수 있는 플래그를 설정"했다는 점이 근본 원인으로, 이는 sandbox의 정의 자체를 위반하는 설계 결함이다.

커뮤니티 의견

@GN⁺(HN 요약): “prompt injection 문제는 근본적으로 해결 불가능하다. 데이터와 명령이 같은 스트림에 있으면 항상 같은 결말을 맞이함”

💡 실무 포인트: AI 에이전트에 시스템 명령 실행 권한을 부여할 때는 화이트리스트 기반 명령 필터링과 네트워크 격리를 기본으로 적용하라. “sandbox"라는 이름만 믿지 말고 실제 격리 수준을 검증하라.

Visa CLI — AI 에이전트가 직접 결제하는 커맨드라인 커머스 도구 (베타)

Sat, 21 Mar 2026 00:00:00 +0000

Visa와 CryptoLabs가 공동 개발한 visa-cli는 AI 코딩 에이전트에게 프로그래매틱 결제 능력을 부여하는 CLI 도구다. API 키 없이 온디맨드 카드 결제가 가능하며, 이미지 생성 API 비용 즉시 처리 등 에이전트가 자율적으로 외부 서비스를 구매·활용할 수 있는 인프라를 제공한다. 현재 베타 접근 신청을 받고 있다. 에이전트의 자율적 결제 능력이라는 새로운 패러다임을 제시하지만, 보안과 비용 통제에 대한 우려도 크다. 에이전트가 금액 제한을 우회하거나 전체 권한 모드에서 예상치 못한 과금이 발생할 수 있다는 점이 커뮤니티에서 집중적으로 논의되었다.

Nvidia NemoClaw

Fri, 20 Mar 2026 00:00:00 +0000

NVIDIA가 OpenClaw 에이전트를 안전하게 실행하기 위한 오픈소스 보안 샌드박스 플러그인을 공개했다. OpenShell 런타임과 Nemotron 모델 기반으로 모든 네트워크 요청·파일 접근을 제한된 환경에서 실행한다. 다만 커뮤니티에서는 에이전트가 유용하려면 결국 이메일·캘린더 등 외부 서비스에 연결해야 하는데, 그 순간 샌드박스의 보안 의미가 희석된다는 근본적 한계가 지적되고 있다.

커뮤니티 의견

@GN⁺: “sandbox로 제한된 예산이나 계정만 주는 건 괜찮지만, 이 에이전트들은 일관된 의식이 없음. 인터넷에서 어떤 텍스트를 접하느냐에 따라 완전히 엉뚱한 방향으로 가버릴 수 있음”

💡 실무 포인트: AI 에이전트 배포 시 네트워크·파일시스템 격리뿐 아니라, 접근 가능한 서비스의 권한 범위(예산 한도, 읽기 전용 등)까지 설계해야 한다.

NVIDIA NemoClaw - OpenClaw + Nemotron + OpenShell

Thu, 19 Mar 2026 00:00:00 +0000

OpenClaw에 프라이버시 및 보안 제어를 추가하는 오픈소스 스택으로, 단일 명령어로 정책 기반 가드레일이 적용된 자율 AI 에이전트를 실행할 수 있다. NVIDIA Agent Toolkit과 OpenShell을 활용하며, 에이전트의 동작과 데이터 접근을 정책으로 제어한다.

커뮤니티 의견

@remin1994: “오… 이거 좋은데요?”

💡 실무 포인트: 기업 환경에서 AI 에이전트에 보안 가드레일을 적용해야 한다면 NemoClaw의 정책 기반 접근을 참고하라.

안전한 AI 에이전트는 어떻게 만드는가 — NanoClaw 오픈소스 컨테이너 아키텍처

Tue, 17 Mar 2026 00:00:00 +0000

Claude Agent SDK(Claude Code)를 Docker 컨테이너 안에 격리해 AI 에이전트의 보안 문제를 해결하는 오픈소스 아키텍처다. Host-Container 분리로 AI 작업을 격리하고, stdin/stdout 파이프로 포트 없이 통신하며, 볼륨 마운트 허용 목록으로 파일시스템 접근을 제어한다.

💡 실무 포인트: AI 에이전트에게 Bash 접근을 허용할 때는 Docker 컨테이너 격리 + 볼륨 화이트리스트 패턴을 적용해 보안 사고를 예방하라.

AI 얼굴인식 오류로 무고한 여성이 수개월간 구금됨

Sun, 15 Mar 2026 00:00:00 +0000

AI 얼굴인식 시스템의 오작동으로 무고한 여성이 노스다코타주에서 수개월간 구금된 사건. AI는 단지 ‘가능한 일치’를 표시했을 뿐인데, 인간 수사관이 이를 확정적 증거처럼 받아들인 것이 문제. 5개월 동안 인터뷰조차 없이 구금되었으며, 기계에 권위와 판단력을 과도하게 위임하는 구조적 문제가 부각됨.

커뮤니티 의견

@GN⁺: “문제는 단순히 AI가 아니라, AI와 결합된 경찰 권력. 피해자는 인생이 망가져도 책임지는 사람은 없음”

💡 실무 포인트: AI 시스템 설계 시 확률적 결과를 확정적 판단으로 오용하지 않도록 UI/UX에서 신뢰도 표시와 휴먼-인-더-루프 프로세스를 필수 적용.

AI 얼굴인식 오류로 무고한 여성이 수개월간 구금됨

Sat, 14 Mar 2026 00:00:00 +0000

노스다코타주 사기 사건 수사에서 AI 얼굴인식 시스템이 잘못된 인물 식별을 한 결과, 무고한 여성이 5개월간 인터뷰조차 없이 구금되었다. AI는 ‘가능한 일치’를 표시했을 뿐인데, 인간 수사관이 이를 확정적 증거처럼 받아들인 것이 핵심 문제다. 기계에 대한 과도한 권위 위임과 책임 회피 구조가 지적되고 있다.

커뮤니티 의견

@GN⁺(HN): “AI는 단지 ‘가능한 일치’를 표시했을 뿐인데, 인간 수사관이 이를 확정적 증거처럼 받아들인 것이 문제… 결국 인간이 결함 있는 AI를 맹신하면서 사회가 붕괴하는 모습”

💡 실무 포인트: AI 시스템의 확률적 결과를 최종 판단에 사용할 때는 반드시 Human-in-the-loop 검증과 신뢰도 임계값을 명시적으로 설계하라.

맥킨지의 AI 플랫폼을 해킹한 방법

Sat, 14 Mar 2026 00:00:00 +0000

맥킨지의 내부 직원용 AI 플랫폼 ‘Lilli’에서 인증 없이 접근 가능한 취약점을 통해 전체 데이터베이스에 읽기·쓰기 권한이 획득되었다. 자율 보안 에이전트가 공개된 API 문서의 200여 개 엔드포인트 중 22개에서 인증 부재를 발견했다. 내부 프로젝트를 외부로 전환하는 과정에서 보안 검토가 누락된 것이 근본 원인으로 분석된다.

커뮤니티 의견

@GN⁺(HN): “아마도 어떤 시니어 파트너가 영향력을 행사해 Lilli를 공개로 전환했을 가능성이 큼. 결국 이는 McKinsey의 기술 문화 실패”

💡 실무 포인트: 내부 AI 플랫폼을 외부 공개로 전환할 때 반드시 모든 API 엔드포인트의 인증·인가를 재검증하고, 자동화된 보안 테스트를 CI/CD에 통합하라.

죽은 인터넷은 더 이상 이론이 아니다

Sat, 14 Mar 2026 00:00:00 +0000

AI 생성 콘텐츠와 봇 활동이 급격히 확산되면서 인간 중심 인터넷이 붕괴되고 있다. Hacker News는 AI 생성 댓글 금지 규칙을 추가하고, Reddit에서도 특정 조치가 취해지고 있다. 신원 인증 기반 인터넷과 유료 인터넷이라는 두 가지 해법이 논의되지만, 둘 다 완벽하지 않다는 평가다.

커뮤니티 의견

@GN⁺(HN): “신원 인증 기반 인터넷과 유료 인터넷 두 가지 결과만 보임… 솔직히 둘 다 기대되지 않음. 멋진 암호학적 인증이 가능했으면 함”

💡 실무 포인트: 사용자 생성 콘텐츠 플랫폼을 운영한다면 AI 생성 콘텐츠 탐지 및 필터링 전략을 선제적으로 수립하라.

맥킨지의 AI 플랫폼을 해킹한 방법

Fri, 13 Mar 2026 00:00:00 +0000

맥킨지의 내부 직원용 AI 플랫폼 ‘Lilli’에서 인증 없이 접근 가능한 취약점을 통해 전체 데이터베이스에 읽기·쓰기 권한이 획득되었다. 자율 보안 에이전트가 공개된 API 문서의 200여 개 엔드포인트 중 22개가 인증 없이 접근 가능함을 발견했다. 원래 VPN과 SSO 뒤에 있던 내부 시스템이 공개 전환되면서, 원래 팀이 다른 프로젝트로 이동한 뒤 보안 점검이 누락된 것으로 분석된다.

커뮤니티 의견

@GN⁺: “아마도 어떤 시니어 파트너가 영향력을 행사해 Lilli를 공개로 전환했을 가능성이 큼. 결국 이는 McKinsey의 기술 문화 실패임”

💡 실무 포인트: 내부용 AI 플랫폼을 외부 공개로 전환할 때, 반드시 보안 감사를 재수행할 것. API 인증 누락은 가장 흔한 취약점이다.

죽은 인터넷은 더 이상 이론이 아니다

Fri, 13 Mar 2026 00:00:00 +0000

AI 생성 콘텐츠와 봇 활동이 온라인 공간 전반에서 급격히 확산되며, 인간 중심 인터넷이 실질적으로 붕괴하고 있다는 분석이다. Hacker News는 신규 계정의 ShowHN 게시를 제한하고 AI 생성 댓글 금지 규칙을 추가했으며, Reddit에서도 AI 봇 활동이 증가하고 있다. 해결책으로 신원 인증 기반 인터넷과 유료 인터넷 두 가지가 제시되지만, 둘 다 완벽하지 않다는 회의적 시각이 지배적이다.

커뮤니티 의견

@GN⁺: “멋진 암호학적 인증이 가능했으면 함. 내가 어디서 글을 쓰는지, 나이가 몇 살인지 같은 걸 다른 정보 노출 없이 증명할 수 있는 방식”

💡 실무 포인트: AI 봇 탐지와 인간 인증(CAPTCHA 대안, 암호학적 증명)을 서비스 설계 초기부터 고려할 필요가 있다.

잇따른 장애 후, Amazon이 AI 지원 코드 변경에 시니어 엔지니어 승인 의무화

Thu, 12 Mar 2026 00:00:00 +0000

AI 코딩 도구 사용과 관련된 서비스 장애가 연이어 발생하자, Amazon이 모든 AI 지원 코드 변경에 대해 시니어 엔지니어의 사전 승인 절차를 도입했다. 내부 노트에 따르면 “베스트 프랙티스와 안전장치가 아직 완전히 확립되지 않은 새로운 도구"의 사용이 장애 원인으로 지목되었다. 이 정책은 AI 코드 생성의 속도와 안전성 사이의 균형에 대한 업계 전반의 논의를 촉발하고 있으며, 결국 법적 책임을 질 인간이 필요하다는 현실적 문제가 핵심에 있다.

커뮤니티 의견

@click: “AI 코드를 시니어가 리뷰하면 안전하다고 보장할 수 없죠. crowdstrike 사건이 AI때문은 아니었고 heartbleed도 AI가 없던 시대의 사고죠. 결론은 누군가에게는 책임을 지우겠다는 게 골자”

@sea715: “AI에이전트에 법적 서명같은걸 넣지 않는이상 지속될거 같아요”

@yeobi222: “세무사는 감방가는 역할이라고 했는데 보험사가 감방을 대신 가주진 않아서 결국은…”

💡 실무 포인트: AI 코딩 도구를 도입한 팀이라면 AI 생성 코드에 대한 리뷰 정책과 책임 소재를 명확히 정의해야 한다. Amazon의 사례를 참고하여 자체 AI 코드 거버넌스 가이드라인을 수립하는 것을 권장한다.

Agent Safehouse – macOS용 로컬 에이전트 샌드박싱 도구

Wed, 11 Mar 2026 00:00:00 +0000

macOS 네이티브 샌드박스를 통해 로컬 AI 에이전트가 시스템 외부를 변경하지 못하도록 격리하는 도구다. 모든 에이전트가 독립된 샌드박스 환경에서 실행되며, deny-first 접근 모델을 채택했다. 사실상 sandbox-exec용 정책 생성기이며, 각 에이전트가 필요한 최소 권한을 찾는 데 집중했다.

커뮤니티 의견

@GN⁺: “프로젝트 전체를 쓸 필요도 없음. Policy Builder만으로도 sandbox-exec 정책을 생성해 dotfiles에 넣어 쓸 수 있음”

관련 레퍼런스

에이전트별 보안 조사 문서

💡 실무 포인트: macOS에서 Claude Code나 다른 AI 에이전트를 실행할 때, Agent Safehouse의 Policy Builder로 최소 권한 샌드박스 정책을 생성해 보안을 강화할 수 있다.

전쟁은 AI 기업의 윤리 원칙을 어디까지 밀어붙였나?

Wed, 11 Mar 2026 00:00:00 +0000

Anthropic의 Claude가 Palantir의 Maven 시스템을 통해 미군 정보분석·표적 식별·시뮬레이션에 활용되었다는 사실이 드러나며, 생성형 AI가 이미 군사 인프라 깊숙이 들어갔음을 보여준다. 출발점은 2017년 미 국방부의 Project Maven이었고, AI 기업들의 윤리 원칙이 실전에서 어디까지 유지되는지에 대한 근본적 질문을 던진다.

💡 실무 포인트: AI 제품 개발 시 사용처 제한 정책(Acceptable Use Policy)을 명확히 정의하고, 서드파티 통합 시 최종 사용 목적을 추적할 수 있는 거버넌스 체계를 갖추는 것이 중요하다.

Agent Safehouse — macOS용 로컬 에이전트 샌드박싱 도구

Tue, 10 Mar 2026 00:00:00 +0000

macOS 네이티브 샌드박스를 통해 로컬 AI 에이전트가 사용자 홈 디렉터리나 다른 프로젝트에 접근하지 못하도록 격리하는 도구다. Deny-first 접근 모델을 채택하여 각 에이전트에 최소 권한만 부여하며, sandbox-exec용 정책 생성기로도 단독 활용 가능하다. 별도 의존성이나 가상화 없이 동작한다.

커뮤니티 의견

@GN⁺: “Policy Builder만으로도 sandbox-exec 정책을 생성해 dotfiles에 넣어 쓸 수 있음”

관련 레퍼런스

Agent Investigations 문서

💡 실무 포인트: AI 에이전트에게 파일시스템 접근을 허용할 때는 deny-first 샌드박싱 정책을 적용하고 최소 권한 원칙을 준수해야 한다.

이 CSS는 내가 인간임을 증명한다

Tue, 10 Mar 2026 00:00:00 +0000

AI 텍스트 감지를 우회하기 위해 CSS text-transform, 폰트 조작, 맞춤법 변형 등 기술적 수단을 동원한 실험적 글쓰기 시도다. 글쓰기 스타일 자체가 정체성의 일부이기에, AI 감지 회피를 위해 스타일을 바꾸는 것은 역설적이라는 결론에 이른다.

커뮤니티 의견

@GN⁺: “AI가 쓴 문장을 교묘히 숨기려 하기보다, 그냥 시간을 낭비하지 말았으면 함”

💡 실무 포인트: AI 텍스트 감지 우회 기법은 기술적으로 가능하지만, 근본적 해결책은 인간 고유의 관점과 경험을 담은 글쓰기 자체다.

Codex Security - 리서치 프리뷰 공개

Mon, 09 Mar 2026 00:00:00 +0000

OpenAI가 프로젝트 맥락을 분석해 복잡한 취약점을 탐지·검증·패치하는 AI 기반 애플리케이션 보안 에이전트 Codex Security를 리서치 프리뷰로 공개했다. 기존 보안 도구들의 과도한 오탐 문제를 줄이고, 실제 위험이 큰 취약점에 집중하도록 설계되었다. 베타 단계에서 SSRF, 교차 사이트 스크립팅 등 주요 취약점 탐지를 지원한다.

💡 실무 포인트: 기존 SAST/DAST 도구와 병행하여 AI 기반 보안 감사 도구를 파일럿으로 도입해 오탐률 비교 검증을 시작할 것.

GitHub 이슈 제목을 이용해 4,000대 개발자 머신이 감염됨

Mon, 09 Mar 2026 00:00:00 +0000

GitHub 이슈 제목에 삽입된 프롬프트 인젝션이 Cline의 AI 기반 이슈 분류 봇을 악용하여 npm 토큰 탈취 및 악성 패키지 배포로 이어진 공급망 공격 사례다. 공격자는 allowed_non_write_users: "*" 설정과 Bash 등 광범위한 도구 접근 권한이 열린 GitHub Actions 워크플로를 이용했다. 약 4,000대의 개발자 머신이 감염되었으며, AI 에이전트에게 과도한 권한을 부여하는 것의 위험성을 여실히 보여준다.

커뮤니티 의견

@based: “요즘 npm package 에서 비슷한 일들이 자꾸 발생하네요.”

@GN⁺: “누구나 이슈를 열기만 해도 GitHub Actions를 트리거할 수 있었고, Claude가 임의 코드 실행 권한을 가지게 되었음.”

💡 실무 포인트: AI 에이전트를 CI/CD에 통합할 때는 반드시 최소 권한 원칙을 적용하고, 외부 입력(이슈, PR)을 AI가 직접 처리하는 파이프라인에는 샌드박스를 설정할 것.

파이어폭스 보안을 강화하기 위한 Anthropic-Mozilla 협력

Mon, 09 Mar 2026 00:00:00 +0000

Claude Opus 4.6이 Mozilla와의 협업을 통해 파이어폭스에서 22건의 취약점을 발견했으며, 이 중 14건이 고위험 등급으로 분류되었다. AI 모델이 복잡한 소프트웨어의 제로데이 취약점을 빠르게 탐지할 수 있음을 실증한 사례로, Firefox 148.0에 반영되었다. 이는 AI 기반 보안 감사가 실용적 수준에 도달했음을 보여주는 중요한 이정표다.

커뮤니티 의견

@mammal: “엄격한 테스트 케이스가 얼마나 중요한지 다시 한번 상기시켜주는 사례 같습니다.”

@GN⁺: “오픈소스 프로젝트의 보안 유지를 맡고 있다면 Claude Code로 보안 감사를 요청해보길 권함. 대부분의 프로젝트는 토큰 비용이 약 3달러 수준.”

관련 레퍼런스

Codex Security - 리서치 프리뷰 공개

Sun, 08 Mar 2026 00:00:00 +0000

OpenAI가 프로젝트 맥락을 분석해 복잡한 취약점을 탐지·검증·패치하는 AI 기반 애플리케이션 보안 에이전트 Codex Security의 리서치 프리뷰를 공개했다. 기존 보안 도구들의 과도한 오탐과 저신뢰 경고 문제를 줄이고, 실제 위험이 큰 취약점에 집중하도록 설계되었다. SSRF·교차 사이트 스크립팅 등 주요 취약점 패턴을 지원한다.

💡 실무 포인트: AI 보안 감사 도구 비교 평가 시 Codex Security를 후보에 포함하고, Anthropic의 Firefox 보안 감사 사례와 함께 벤치마킹할 수 있다.

GitHub 이슈의 제목을 이용해 4,000대 개발자 머신이 감염됨

Sun, 08 Mar 2026 00:00:00 +0000

GitHub 이슈 제목에 삽입된 프롬프트 인젝션이 Cline의 AI 기반 이슈 분류 봇을 악용해 명령을 주입한 사건이다. 공격자는 npm 토큰을 탈취하여 악성 Cline을 배포하고 OpenClaw AI 에이전트를 무단 설치했다. Cline의 워크플로가 allowed_non_write_users: "*"로 설정되어 있어 누구나 이슈를 열기만 해도 GitHub Actions가 트리거되었고, --allowedTools "Bash,Read,Write,Edit" 옵션으로 임의 코드 실행 권한이 부여된 상태였다.

커뮤니티 의견

@GN⁺: “이런 설정을 그대로 둔 채 AI 에이전트를 돌리는 건 정신 나간 일처럼 보임. 일부 사람들은 AI 에이전트에 회사 소셜 미디어 언급을 자동으로 읽고 버그 리포트를 생성하게 하려는 시도도 있음”

💡 실무 포인트: AI 에이전트를 CI/CD에 통합할 때 반드시 권한 범위를 최소화하고, 외부 입력(이슈 제목, 댓글 등)을 통한 프롬프트 인젝션 벡터를 차단해야 한다.

파이어폭스 보안을 강화하기 위한 Anthropic–Mozilla 협력

Sun, 08 Mar 2026 00:00:00 +0000

Claude Opus 4.6이 Mozilla와의 협업을 통해 파이어폭스에서 22건의 취약점을 발견했으며, 이 중 14건이 고위험 등급으로 분류되었다. AI 모델이 복잡한 소프트웨어의 제로데이 취약점을 빠르게 탐지할 수 있음을 입증한 사례로, Firefox 148.0 보안 업데이트에 반영되었다. 오픈소스 프로젝트의 보안 감사에 AI를 활용할 수 있는 실질적 가능성을 보여준다.

커뮤니티 의견

@mammal: “엄격한 테스트 케이스가 얼마나 중요한지 다시 한번 상기시켜주는 사례”

@GN⁺: “오픈소스 프로젝트 보안 유지를 맡고 있다면 Claude Code로 보안 감사를 요청해보길 권함. 대부분의 프로젝트는 토큰 비용이 약 3달러 수준. 모델에게 자체 검토를 요청하면 대부분의 오탐이 제거됨”

관련 레퍼런스

Anthropic CEO, OpenAI의 군사 계약 관련 발언을 '명백한 거짓말'이라 비판

Fri, 06 Mar 2026 00:00:00 +0000

Anthropic CEO Dario Amodei가 직원 메모를 통해 OpenAI의 미 국방부 계약을 “보여주기식 안전 조치(safety theater)“라 지칭하며 강하게 비판했다. Anthropic은 기존 2억 달러 규모의 군 계약을 보유하고 있었으나, 국방부가 무제한 기술 접근을 요구하면서 계약을 철회한 배경이 있다. OpenAI가 “모든 합법적 사용"이라는 문구 뒤에 숨어 사실상 집행 불가능한 조건을 내세웠다는 비판이 핵심이며, AI 군사 활용의 윤리적 경계에 대한 업계 논쟁이 심화되고 있다.

커뮤니티 의견

@jjpark78: “그런데 왜 opencode는 막은거야.. 흐흑..”

@nemorize: “DoD: Department of Defense ..W: ..War”

💡 실무 포인트: AI 서비스 도입 시 제공사의 군사·정부 계약 정책과 데이터 접근 범위를 사전에 검토하는 것이 거버넌스 차원에서 중요하다.

Ars Technica, AI가 생성한 허위 인용문 논란 후 기자 해고

Fri, 06 Mar 2026 00:00:00 +0000

Ars Technica의 기자 Benj Edwards가 AI 도구로 생성된 허위 인용문이 포함된 기사를 게재한 후 해고되었다. AI가 인간 엔지니어 Scott Shambaugh에 대한 비판 글을 다루는 과정에서 실존하지 않는 인용문을 생성했고, 편집 과정에서도 검증되지 않았다. AI 관련 분야를 다루는 기자라면 LLM 생성 텍스트를 반드시 검증했어야 한다는 비판과, 편집진의 기준에 대한 의문이 제기되었다.

커뮤니티 의견

@GN⁺: “기자가 AI 관련 분야를 다뤘다면 LLM이 생성한 인용문을 반드시 검증했어야 함. 편집진도 확인하지 않았다면 이는 Ars의 편집 기준을 드러내는 일”

💡 실무 포인트: AI가 생성한 인용·참조 데이터는 할루시네이션 위험이 높으므로, 콘텐츠 파이프라인에 팩트체크 단계를 반드시 포함해야 한다.

인도 대법원, 하급 판사가 AI가 생성한 가짜 판결문을 인용하자 강력 반발

Fri, 06 Mar 2026 00:00:00 +0000

인도 안드라프라데시주의 한 하급 법원 판사가 부동산 분쟁 사건에서 AI가 생성한 허위 판결문을 인용한 사실이 드러났다. 대법원은 이를 ‘제도적 우려’ 사안으로 규정하고, 단순 판단 착오가 아닌 ‘직무상 비행(misconduct)‘으로 취급했다. AI가 사람을 대체한다는 주장의 한계를 보여주는 사례로, 법적 책임을 질 사람은 여전히 필요하다는 점을 환기한다.

커뮤니티 의견

@GN⁺: “AI를 단순한 도구로 쓴다면 책임은 사용자에게 있고, AI를 ‘다른 사람의 일’처럼 대했다면 무자격자에게 위임한 것이 되어 결국 사용자 잘못”

💡 실무 포인트: LLM 출력을 공식 문서나 의사결정에 활용할 때는 반드시 원본 소스를 교차 검증하는 프로세스를 제도화해야 한다.

Ars Technica, AI가 생성한 허위 인용문 논란 후 기자 해고

Thu, 05 Mar 2026 00:00:00 +0000

Ars Technica 기자 Benj Edwards가 AI 도구로 생성된 허위 인용문이 포함된 기사를 게재한 것이 밝혀져 해고되었다. 문제의 기사는 AI가 엔지니어 Scott Shambaugh에 대한 비판 글을 게시한 사건을 다루었으며, LLM이 만들어낸 가짜 인용문이 사실 검증 없이 게재되었다. 편집진의 검증 부재도 함께 지적되고 있다.

커뮤니티 의견

@GN⁺(HN 의견): “기자가 AI 관련 분야를 다뤘다면 LLM이 생성한 인용문을 반드시 검증했어야 함. 편집진도 이를 확인하지 않았다면 이는 Ars의 편집 기준을 드러내는 일”

💡 실무 포인트: AI 생성 콘텐츠를 외부 발행물에 사용할 때는 반드시 사실 검증(fact-checking) 파이프라인을 구축해야 하며, 특히 인용문·통계·고유명사는 원본 대조가 필수다.

마이크로소프트, Copilot 디스코드에서 'Microslop' 금지 후 서버 잠금

Thu, 05 Mar 2026 00:00:00 +0000

Microsoft Copilot 공식 Discord 서버에서 ‘Microslop’이라는 비하 표현이 자동 차단되면서 논란이 확대되었다. 사용자들이 ‘Microsl0p’ 등 우회 표현을 시도하자 서버 전체가 잠금 상태로 전환되었다. AI 제품의 커뮤니티 관리에서 부정적 피드백에 대한 대응 방식이 역효과를 낳은 사례로, 스트라이샌드 효과의 전형적 패턴이다. Windows 메모장에까지 Bing 검색이 추가되는 등 공격적 통합 전략에 대한 사용자 불만이 배경에 깔려있다.

커뮤니티 의견

@t7vonn: “스트라이샌드 효과가 생각나네요 마이크로슬롭..”

@mammal: “메모장 업데이트 하고 우클릭 메뉴에 Bing으로 검색 추가된거 보고 이 회사는 갈 때 까지 갔구나 싶었네요”

@chcv0313: “삼성이 갤럭시 기본앱에 광고 넣고 고객들이랑 기싸움 하던 시절 보는거 같습니다”

💡 실무 포인트: AI 제품의 커뮤니티 관리에서 부정적 피드백 차단보다는 투명한 소통이 중요하며, 커뮤니티 반감은 제품 신뢰도에 직결된다.

메타 스마트 안경 개발 노동자들 "우리는 모든 것을 본다" — 개인정보 유출 논란

Thu, 05 Mar 2026 00:00:00 +0000

Meta AI 안경이 수집하는 영상·음성 데이터를 케냐 하청업체 노동자들이 검수·주석 처리하는 과정에서, 나체·성행위·금융정보 등 민감한 사생활 데이터가 그대로 노출되고 있다는 실태가 폭로되었다. Meta가 얼굴 인식 기능 도입을 검토 중이라는 내부 문서도 공개되었으며, 정치적으로 혼란스러운 시기에 출시하려는 전략이 담겨있다.

커뮤니티 의견

@GN⁺(HN 의견): “Meta가 스마트 글래스에 얼굴 인식 기능을 도입하려 한다는 The Verge 기사를 봤음. 내부 문서에 따르면, 시민단체들이 다른 문제에 집중할 때 이 기능을 출시하려는 전략”

💡 실무 포인트: AI 제품의 데이터 라벨링 파이프라인에서 민감 정보 처리 정책을 설계할 때, 하청 구조의 개인정보 보호 리스크를 사전에 평가해야 한다.

OpenAI, 미 국방부와 체결한 협약에 대해

Wed, 04 Mar 2026 00:00:00 +0000

OpenAI가 미 국방부와 기밀 환경에서의 AI 시스템 배치에 관한 계약을 체결했다. 대규모 국내 감시, 자율 무기 직접 제어, 고위험 자동화 의사결정에는 사용하지 않겠다고 명시했으나, 커뮤니티에서는 이미 법으로 금지된 범위 내에서만 제한된다는 실질적 의미에 의문을 제기한다. 민간 기업으로부터 데이터를 대량 구매해 분석하는 것은 가능할 수 있다는 해석도 나오고 있으며, Anthropic의 계약에는 이런 조항이 없었다는 비교도 이루어지고 있다.

커뮤니티 의견

@GN⁺: “OpenAI는 더 이상 윤리를 논할 자격이 없는 회사처럼 보임. 개인정보 정책을 두 번이나 바꿔서 데이터를 더 많이 수집하고 있음”

💡 실무 포인트: AI 서비스 도입 시 공급업체의 데이터 정책과 정부 계약 현황을 확인하라. 특히 민감 데이터를 다루는 조직은 AI 벤더의 윤리 정책 변경 이력을 추적해야 한다.

메타 스마트 안경 개발 노동자들 "우리는 모든 것을 본다" - 개인정보 유출 논란

Wed, 04 Mar 2026 00:00:00 +0000

Meta의 AI 스마트 안경으로 수집된 사생활 영상과 음성 데이터가 케냐 하청업체에서 검수·주석 처리되고 있으며, 나체·성행위·금융정보 등이 포함된 사례가 증언됐다. 내부 문서에 따르면 정치적으로 혼란스러운 시기에 얼굴 인식 기능을 출시하려는 전략이 있다는 보도도 나왔다. AI 디바이스의 데이터 수집 범위와 하청 노동 환경에 대한 윤리적 문제가 부각되고 있다.

커뮤니티 의견

@GN⁺: “Meta가 스마트 글래스에 얼굴 인식 기능을 도입하려 한다는 The Verge 기사를 봤음. 시민단체들이 다른 문제에 집중할 때 출시하려는 전략이라고 함”

💡 실무 포인트: AI 디바이스 데이터 파이프라인 설계 시 수집 데이터의 범위를 최소화하고, 외부 하청 처리 시 개인정보 보호 기준을 엄격히 적용하라.

Google 직원들, 군사용 인공지능에 '레드라인' 설정 요구

Tue, 03 Mar 2026 00:00:00 +0000

Google 내부 직원들이 Pentagon과의 협력 확대에 우려를 표하며, 군사용 AI 프로젝트에 대한 명확한 윤리적 한계 설정을 요구하고 있다. Anthropic 사태 이후 AI 업계 전반으로 확산되는 움직임으로, 2018년 Project Maven 반대 운동의 재현으로 볼 수 있다.

커뮤니티 의견

@GN⁺: “중국이 AI를 무기화하면 ‘언젠가’ 사용할 가능성이 있지만 미국이 무기화하면 ‘올해 안에’ 실제로 사람을 죽일 가능성이 높음”

💡 실무 포인트: AI 엔지니어라면 자신이 참여하는 프로젝트의 최종 용도를 파악하고, 조직 내 윤리 가이드라인 수립에 적극 참여하라.

OpenAI – 계정 삭제 방법

Tue, 03 Mar 2026 00:00:00 +0000

OpenAI 계정은 Privacy Portal 또는 ChatGPT 내 직접 삭제 기능으로 제거 가능하다. 계정 삭제 시 ChatGPT Plus 구독이 자동 취소된다. 커뮤니티에서는 Google Gemini도 데이터 통제권이 거의 없다는 점을 지적하며, 데이터 프라이버시 관점에서 로컬 모델 전환을 권장하고 있다.

커뮤니티 의견

@GN⁺: “Google Gemini도 사용자 데이터에 대한 통제권이 거의 없음. 유료 사용자조차 opt-out이 어려움”

💡 실무 포인트: AI 서비스 사용 시 데이터 보존 정책과 삭제 절차를 사전에 파악해두어야 한다.

OpenAI, "Anthropic을 공급망 위험으로 지정해서는 안 된다"

Tue, 03 Mar 2026 00:00:00 +0000

OpenAI가 X 스레드에서 “국방부와의 계약이 우리의 레드라인을 지킨다"고 주장하며, Anthropic에 대한 공급망 위험 지정에 반대하는 입장을 밝혔다. 그러나 커뮤니티에서는 계약서 문구의 실질적 의미에 대해 날카로운 분석이 이어졌다. 특히 “법이나 정책이 인간 통제를 요구하는 경우에만” 자율무기 운용을 제한한다는 조항이 사실상 빈 약속이라는 비판이 제기되었다. Anthropic은 “대규모 감시는 절대 불가"라는 절대적 금지선을 두었으나, OpenAI는 “법이 허용하면 가능"이라는 방식으로 완화했다는 분석이다.

커뮤니티 의견

@kayws426: “관련한 내용 타임라인 정리가 필요할 것 같습니다. OpenAI는 계약 협상이 진행중이었다는 말도 있는데요?”

@xguru: “x가 크롤링하기 좀 난감해져서 그런 경우가 있는 듯합니다”

@GN⁺: “Anthropic은 ‘대규모 감시는 절대 불가’라는 절대적 금지선을 뒀는데, OpenAI는 ‘법이 허용하면 가능’이라는 식으로 완화했음”

💡 실무 포인트: AI 서비스 도입 시 이용약관의 데이터 활용 범위와 윤리 정책을 면밀히 검토하라. 특히 정부·공공 프로젝트에서는 벤더의 군사용 정책이 리스크 요인이 될 수 있다.

OpenAI, 미 국방부와 비공개 네트워크 내 모델 배포에 합의

Tue, 03 Mar 2026 00:00:00 +0000

Sam Altman이 미 국방부와 기밀 네트워크에 모델을 배포하는 합의에 도달했다고 발표했다. 합의에는 대규모 국내 감시 금지와 자율 무기 시스템에서의 인간 책임 원칙이 포함되어 있다. 그러나 GeekNews 커뮤니티에서는 “워딩의 차이"에 주목했다. OpenAI는 기술적 안전장치와 현장 엔지니어 투입 등 구체적 이행 메커니즘을 제안한 반면, Anthropic은 이용약관 수준의 예외 조항을 요구했다는 분석이다.

커뮤니티 의견

@xguru: “국방부 입장에서는 ‘민간 기업이 개별 사용 사례에 거부권을 행사한다’고 보고 괘씸죄처럼 발표”

@lamanus: “같은 수준의 계약이더라도 신뢰도나 이미지가 참 다르게 느껴지네요. GPT 구독 해지나 해야겠네요”

@GN⁺: “Sam Altman이 해고됐다가 복귀했을 때 이미 안전 중심 직원들은 떠났다고 생각함”

💡 실무 포인트: 기밀 네트워크 내 AI 배포 사례는 온프레미스·에어갭 환경에서의 LLM 운영 모델로 참고할 수 있다.

우리는 분열되지 않을 것이다

Tue, 03 Mar 2026 00:00:00 +0000

미국 국방부가 Anthropic에 대해 국방물자생산법(DPA) 발동을 위협하며 군사용 모델 제공을 강요하고 있다는 상황에서, Anthropic이 국내 대규모 감시와 인간 통제 없는 자율 살상에 자사 기술 사용을 거부하는 입장을 재확인한 문서이다. 정부가 특정 AI 기업을 ‘충성 부족’으로 처벌할 수 있다면, Apple이나 Amazon 같은 다른 기업도 같은 위험에 놓일 수 있다는 우려가 제기되었다.

커뮤니티 의견

@GN⁺: “이번 사안은 미국 경제와 법치주의 전반에 훨씬 더 큰 영향을 미칠 것 같음. 미국의 중요한 전환점이 되는 순간임”

💡 실무 포인트: AI 윤리 정책이 사업 연속성에 직접 영향을 미칠 수 있으므로, 자사 AI 사용 정책의 레드라인을 명확히 정의해두어야 한다.

트럼프 대통령, Anthropic 정부 사용 금지 후 OpenAI와 국방부 계약 체결

Tue, 03 Mar 2026 00:00:00 +0000

미국 정부가 Anthropic의 AI 기술 사용을 전면 중단하고, 국방부가 이를 국가안보 위험 기업으로 지정했다. Anthropic은 자율무기와 국내 대규모 감시에 자사 기술 사용을 거부한 것이 원인이다. 발표 직후 OpenAI가 국방부와 기밀 네트워크용 AI 공급 계약을 체결하며 대체 공급자로 부상했다. 이번 사안은 AI 기업의 윤리적 원칙과 정부 계약 사이의 긴장을 극명하게 보여주는 사건으로, AI 업계 전반에 큰 파장을 일으키고 있다.

커뮤니티 의견

@GN⁺: “Anthropic이 현 미국 행정부를 지지하지 않는 사람들 사이에서 인기를 얻을 수도 있을 것 같음. Claude Code가 프로그래밍 분야에서는 최고 수준임”

@GN⁺: “트럼프 행정부의 지난 1년을 보면, 이런 비합리적인 협상은 전혀 놀랍지 않음”

💡 실무 포인트: AI 서비스 의존도가 높은 조직은 특정 벤더 종속 리스크를 평가하고, 멀티 벤더 전략 또는 오픈소스 대안을 확보해야 한다.

Google API 키는 비밀이 아니었다. 그러나 Gemini가 규칙을 바꿨다

Sun, 01 Mar 2026 00:00:00 +0000

Google이 10년 넘게 “API 키는 비밀이 아니며 공개해도 안전하다"고 안내해왔으나, Gemini API 활성화 이후 동일 키가 민감한 인증 수단으로 변모했다. 기존에 Google Maps, Firebase 등에서 사용되던 공개 키가 Gemini API 접근 권한을 자동으로 얻게 되면서, 공개 저장소에 노출된 API 키를 통한 AI 과금 남용이 가능해진 상황이다.

커뮤니티 의견

@GN⁺: “Google AI Studio 문서가 오픈 프록시를 통해 앱을 배포하도록 권장하고 있음. AI 기능이 전혀 없는 앱조차도 키 범위가 수동으로 제한되지 않으면 고비용 모델에 노출됨”

💡 실무 포인트: Google API 키를 사용 중이라면 즉시 Generative Language API 권한이 활성화되어 있는지 확인하고, 불필요한 경우 해당 API를 비활성화해야 한다.

OpenAI, 미 국방부와 비공개 네트워크 내 모델 배포에 합의

Sun, 01 Mar 2026 00:00:00 +0000

OpenAI CEO Sam Altman이 미 국방부와 기밀 네트워크에 모델을 배포하는 합의에 도달했다고 발표했다. 합의에는 대규모 국내 감시 금지와 무력 사용에 대한 인간 책임 원칙이 포함되어 있으며, 국방부도 이 원칙에 동의했다. Anthropic이 이용약관 수준의 예외 조항만 요구한 반면, OpenAI는 기술적 안전장치 구축, FDE(현장 엔지니어) 투입, 클라우드 전용 배포 같은 구체적인 이행 메커니즘을 함께 제안하여 합의를 이끌어낸 것으로 분석된다.

커뮤니티 의견

@xguru: “결국 미 국방부가 Anthropic은 버리고 OpenAI를 선택한 건데, 워딩의 차이가 있다. 국방부가 Anthropic과의 대립을 다른 AI 기업과의 협상에서 톤을 세팅하는 용도로 활용했고, OpenAI는 그 압력 속에서 국방부가 수용할 수 있는 형태로 합의를 이끌어냈다”

💡 실무 포인트: B2G(기업-정부) AI 계약에서는 원칙적 제한보다 구체적 이행 메커니즘(현장 엔지니어, 전용 인프라, 감사 체계)이 계약 성사의 핵심 요소다.

기술 기업들은 감시에 협박당해선 안 된다

Sun, 01 Mar 2026 00:00:00 +0000

EFF(전자프런티어재단)가 미국 국방장관의 Anthropic에 대한 최후통첩을 비판하는 성명을 발표했다. AI 기술을 군사적 제한 없이 제공하라는 요구와 이를 거부할 경우 공급망 위험 기업으로 지정하겠다는 위협이 부당하다는 입장이다. EFF는 기술 기업이 감시 목적의 기술 제공에 대해 거부권을 행사할 수 있어야 한다고 주장한다.

커뮤니티 의견

@GN⁺: “Anthropic은 감시나 전쟁용 살상 기술에는 AI를 쓰지 않겠다는 등 안전성 논의를 하는 유일한 대형 기업처럼 보임. 하지만 현 행정부가 기업들을 반민주적 방향으로 몰아가고 있어서 끝까지 버틸지는 확신이 없음”

💡 실무 포인트: AI 제품의 이용약관과 AUP(허용 사용 정책)을 설계할 때, 특정 사용 사례의 명시적 제외 조항을 법적으로 강화할 필요가 있다.

미국 국방부, Anthropic을 국가 안보 공급망 위험 기업으로 지정

Sun, 01 Mar 2026 00:00:00 +0000

Pete Hegseth 국방부 장관이 Anthropic을 국가 안보 공급망 위험 기업으로 지정하고, 미 군과 거래하는 모든 업체의 Anthropic 사용을 금지하도록 지시했다. 국방부는 모든 합법적 국방 목적에 대한 무제한 모델 접근을 요구했으나 Anthropic이 이를 거부한 것이 발단이다. Anthropic CEO Dario Amodei는 별도 성명을 통해 수개월간의 협상에서 대규모 국내 감시와 완전 자율 무기 두 가지만을 계약에서 제외해달라고 요구했을 뿐이며, 이를 법적으로 다툴 것이라 밝혔다. Anthropic은 미국 방어를 위한 AI 활용을 핵심 사명으로 삼고 있으며, 국방부 및 정보기관과의 협력을 계속하고 있다고 강조했다.

Anthropic, 대표 안전 서약 철회

Sat, 28 Feb 2026 00:00:00 +0000

Anthropic이 핵심 안전 정책인 Responsible Scaling Policy(RSP)의 주요 서약을 철회했다. 기존에는 안전 조치가 충분히 보장되지 않으면 AI 모델 훈련을 중단하겠다고 약속했으나, 새 정책에서는 이 조항이 삭제됐다. 경쟁사들이 앞서가고 있어서라는 이유를 밝혔으며, 이는 AI 안전 분야에서 선두주자로 인식되던 Anthropic의 방향 전환을 의미한다.

커뮤니티 의견

@tsboard: “앤트로픽이 아무리 고집을 부려도 결국 미국방부가 까라면 까야하는 것이겠죠. 결국에는 이렇게 될 수순이었던 건 아니었을까요.”

@GN⁺(HN): “결국 돈 때문임을 드러낸 것 같음. 사람들은 Anthropic이 ‘착한 회사’라고 믿었지만, 결국 다 똑같이 이익만을 좇는 존재”

💡 실무 포인트: AI 서비스 선택 시 제공사의 안전 정책 변경을 모니터링하고, 규제 리스크를 사전에 평가하는 프로세스 필요

Claude Code에서 원격 코드 실행 및 API 키 탈취 가능한 취약점 3건 발견 (패치 완료)

Sat, 28 Feb 2026 00:00:00 +0000

Check Point Research가 Claude Code에서 3가지 보안 취약점을 발견했다. 신뢰할 수 없는 저장소를 클론하거나 열기만 해도 공격이 가능한 구조였다. 첫 번째는 .claude/settings.json의 프로젝트 훅을 이용한 코드 인젝션(CVSS 8.7), 두 번째와 세 번째는 CVE 미할당 상태로 API 키 탈취가 가능했다. 모든 취약점은 패치 완료됐으나, AI 코딩 도구의 보안 검증 필요성을 다시 확인시켰다.

💡 실무 포인트: Claude Code 사용 시 신뢰할 수 없는 저장소 클론 전 .claude/ 디렉토리 검사, 최신 버전 업데이트 필수

Google API 키는 비밀이 아니었다. 그러나 Gemini가 규칙을 바꿨다

Sat, 28 Feb 2026 00:00:00 +0000

Google이 10년 넘게 API 키는 비밀이 아니며 공개해도 안전하다고 안내해 왔으나, Gemini API 활성화 이후 동일 키가 민감한 인증 수단으로 변했다. 기존에 Google Maps, Firebase 등에서 사용되던 공개 키가 Gemini API 접근 권한을 자동으로 얻게 되어 심각한 보안 위협이 발생했다.

커뮤니티 의견

@GN⁺(HN): “Google AI Studio 문서가 오픈 프록시를 통해 앱을 배포하도록 권장하고 있음. API 키가 프록시 뒤에 있으니 안전하다고 착각하게 만들지만, 실제로는 AI 과금 남용이 가능”

💡 실무 포인트: 기존 Google API 키의 Gemini API 권한을 즉시 점검하고, 필요시 Generative Language API 권한 제거

Matchlock - Linux 기반 샌드박스로 AI 에이전트 워크로드 보호

Sat, 28 Feb 2026 00:00:00 +0000

AI 에이전트의 코드 실행 보안 문제를 해결하기 위해 개발된 CLI 기반 샌드박스 실행 환경. ephemeral microVM을 활용해 격리된 Linux 환경을 1초 안에 부팅하며, 완전한 VM 수준 격리를 제공한다. 네트워크 화이트리스트 기능으로 외부 접근을 제한할 수 있다.

💡 실무 포인트: AI 에이전트가 생성한 코드 실행 시 Matchlock 같은 샌드박스 환경을 적용해 호스트 시스템 보호

기술 기업들은 감시에 협박당해선 안 된다

Sat, 28 Feb 2026 00:00:00 +0000

EFF(전자프론티어재단)가 미국 국방부의 Anthropic 압박에 대해 비판하는 성명을 발표했다. 정부가 기술 기업에 감시 협력을 강요하는 것은 민주주의 원칙에 위배된다고 지적했다. Anthropic은 감시나 전쟁용 살상 기술에는 AI를 쓰지 않겠다는 입장을 유지하고 있는 유일한 대형 AI 기업으로 평가된다.

커뮤니티 의견

@GN⁺(HN): “지금은 여우들이 닭장 안에 다 들어가 있는 상황. 이번 주 금요일에 어떤 일이 벌어질지 지켜볼 생각”

💡 실무 포인트: 기업 내 AI 도입 시 데이터 프라이버시 정책과 정부 데이터 요청 대응 프로세스를 사전에 수립해야 함

Anthropic, 대표 안전 서약 철회

Fri, 27 Feb 2026 00:00:00 +0000

Anthropic이 자사 핵심 안전 정책인 Responsible Scaling Policy(RSP)의 주요 서약을 철회했다. 기존에는 안전 조치가 충분히 보장되지 않으면 AI 모델 훈련을 중단하겠다고 약속했으나, 새 정책에서는 이 조항이 삭제되었다. Anthropic 측은 “경쟁사들이 앞서가고 있어서"라는 이유를 밝혔으며, 이는 AI 안전을 최우선으로 내세웠던 회사의 방향성에 중대한 변화를 의미한다. AI 업계 전반의 안전 정책 기준에 영향을 미칠 수 있는 결정이다.

커뮤니티 의견

@tsboard: “앤트로픽이 아무리 고집을 부려도 결국 미국방부가 까라면 까야하는 것이겠죠. 결국에는 이렇게 될 수순이었던 건 아니었을까요.”

@GN⁺(HN 의견): “결국 돈 때문임을 드러낸 것 같음. 사람들은 Anthropic이 ‘착한 회사’라고 믿었지만, 결국 다 똑같이 이익만을 좇는 존재”

💡 실무 포인트: AI 서비스 도입 시 벤더의 안전 정책 변경 가능성을 리스크 요소로 고려하고, 자체 안전 가이드라인 수립 필요

Claude Code에서 원격 코드 실행 및 API 키 탈취 가능한 취약점 3건 발견 (패치 완료)

Fri, 27 Feb 2026 00:00:00 +0000

Check Point Research가 Anthropic의 Claude Code에서 3가지 보안 취약점을 발견해 공개했다. 모두 신뢰할 수 없는 저장소를 클론하거나 열기만 해도 공격이 가능한 구조였다. 첫 번째 취약점(CVSS 8.7)은 .claude/settings.json의 프로젝트 훅(Hooks)을 이용한 코드 인젝션이며, 나머지 두 건도 심각한 수준이다. Anthropic은 해당 취약점을 모두 패치 완료했다. AI 코딩 도구의 보안 위험성을 보여주는 사례로, 신뢰할 수 없는 프로젝트를 열 때 주의가 필요하다.

💡 실무 포인트: AI 코딩 도구 사용 시 신뢰할 수 없는 저장소 클론 전 보안 검토 필수, 최신 버전 유지

Google API 키는 비밀이 아니었다. 그러나 Gemini가 규칙을 바꿨다

Fri, 27 Feb 2026 00:00:00 +0000

Google이 10년 넘게 API 키는 비밀이 아니며 공개해도 안전하다고 안내해 왔으나, Gemini API 활성화 이후 동일 키가 민감한 인증 수단으로 변했다. 기존에 Google Maps, Firebase 등에서 사용되던 공개 키가 Gemini API 접근 권한을 자동으로 얻게 되면서, AI 기능이 전혀 없는 앱조차도 키 범위가 수동으로 제한되지 않으면 고비용 모델에 노출된다. Google AI Studio 문서가 오픈 프록시를 통해 앱을 배포하도록 권장하는 것도 문제다.

커뮤니티 의견

@GN⁺(HN 의견): “Gemini 출시 이전에 생성된 모든 키가 Gemini에 접근하지 못하도록 막는 게 이상적이었음. 최소한 Generative Language API 권한을 모든 기존 키에서 제거해야 함”

💡 실무 포인트: 기존 Google API 키의 Gemini API 접근 권한 즉시 점검, 불필요한 권한 제거

Matchlock - Linux 기반 샌드박스로 AI 에이전트 워크로드 보호

Fri, 27 Feb 2026 00:00:00 +0000

AI 에이전트의 코드 실행 보안 문제를 해결하기 위해 개발된 CLI 기반 샌드박스 실행 환경이다. ephemeral microVM을 활용해 격리된 Linux 환경을 1초 안에 부팅하며, 완전한 VM 수준 격리를 제공한다. 네트워크 화이트리스트 기능도 지원해 AI 에이전트가 생성한 코드의 악의적 실행을 방지할 수 있다.

💡 실무 포인트: AI 에이전트가 생성한 코드 실행 시 Matchlock 같은 샌드박스 환경 도입으로 보안 강화

OpenAI, 미국 정부, 그리고 Persona가 구축한 신원 감시 시스템

Fri, 27 Feb 2026 00:00:00 +0000

공개된 조사에 따르면 OpenAI와 미국 정부, Persona가 연계된 인프라에서 사용자의 신원 데이터를 감시·보고하는 ‘watchlistdb’ 시스템이 운영되고 있다. 해당 시스템은 얼굴 인식, 금융 범죄 보고(SAR/STR), 정치인 유사도 분석, 암호화폐 주소 추적 등의 기능을 포함한다. AI 기업과 정부 간 데이터 공유에 대한 우려를 제기하는 사례다.

커뮤니티 의견

@GN⁺(HN 의견): “Persona 보안팀의 공식 대응에 따르면, ‘onyx’는 내부 프로젝트 코드명일 뿐이고 포켓몬 Onyx에서 따온 이름이라 Fivecast ONYX와는 무관하다고 함”

💡 실무 포인트: AI 서비스 이용 시 개인정보 처리 정책 검토, 민감 데이터 노출 최소화

디스코드, 신원 인증 소프트웨어 'Persona'와 계약 종료

Fri, 27 Feb 2026 00:00:00 +0000

Persona의 코드가 미국 정부 감시 시스템에서 발견되면서 Discord가 협력을 중단했다. Persona는 X, OpenAI, LinkedIn, Figma, Reddit 등에서 신원 확인 및 연령 인증용으로 사용 중이다. 발견된 코드는 얼굴 인식·정치적 인물 감시·테러 관련 검증 기능을 포함하고 있어 신원 인증 서비스의 보안 및 프라이버시 우려가 제기되고 있다.

커뮤니티 의견

@GN⁺(HN 의견): “핀테크 업계에 오래 있다 보니 대부분의 우려에는 공감하지 않지만, 데이터 보존 기간이 다르게 명시된 부분은 좀 걱정스러움”

💡 실무 포인트: 신원 인증 서비스 도입 시 벤더의 데이터 처리 및 정부 연계 여부 검토 필수

Anthropic, 중국 AI 기업들의 Claude 불법 증류 공격 탐지 및 대응 공개

Wed, 25 Feb 2026 00:00:00 +0000

Anthropic이 DeepSeek, MiniMax, Moonshot AI 세 중국 AI 기업이 Claude의 능력을 불법으로 추출했다고 공식 발표했다. 세 기업이 총 24,000개의 허위 계정을 생성해 Claude와 1,600만 건 이상의 대화를 생성했으며, 이는 Anthropic의 서비스 약관과 지역 접근 제한을 명백히 위반한 것이다. 증류(Distillation) 공격은 대규모 모델의 출력을 학습 데이터로 사용해 소규모 모델을 훈련시키는 기법으로, API 제공자 입장에서는 지적재산권 침해에 해당한다. Anthropic은 이번 사건을 계기로 비정상적 API 사용 패턴 탐지 시스템을 강화했다고 밝혔다.

커뮤니티 의견

OpenAI, 미국 정부, 그리고 Persona가 구축한 신원 감시 시스템

Wed, 25 Feb 2026 00:00:00 +0000

공개된 조사에 따르면 OpenAI와 미국 정부, Persona가 연계된 인프라에서 사용자의 신원 데이터를 감시·보고하는 ‘watchlistdb’ 시스템이 운영되고 있다. 해당 시스템은 얼굴 인식, 금융 범죄 보고(SAR/STR), 정치인 유사도 분석, 암호화폐 주소 추적 기능을 갖추고 있다. Persona 보안팀은 ‘onyx’가 내부 프로젝트 코드명일 뿐 Fivecast ONYX와는 무관하다고 해명했다.

커뮤니티 의견

@GN댓: “Fivecast ONYX는 ICE와 CBP가 수백만 달러를 들여 구매한 AI 기반 감시 플랫폼임. 소셜미디어와 다크웹에서 데이터를 수집해 감정 변화, 위험 점수, 폭력 성향 등을 추적한다고 함”

💡 실무 포인트: AI 서비스 이용 시 개인정보 처리 정책 검토 강화. 기업 차원에서 AI 벤더 선정 시 데이터 거버넌스 기준 포함.

7천 대의 로봇청소기를 우연히 제어하게 된 남성

Tue, 24 Feb 2026 00:00:00 +0000

소프트웨어 엔지니어가 DJI 로봇청소기를 게임 컨트롤러로 조종하려다, 자신의 기기 제어용 자격 증명으로 전 세계 24개국 약 7,000대의 로봇청소기 카메라, 마이크, 지도, 상태 데이터에 접근할 수 있음을 발견했다. AI 코딩 도우미를 활용해 클라우드 통신 방식을 역공학하는 과정에서 동일한 인증 정보가 다른 기기에도 적용되는 취약점을 발견한 것이다. IoT 기기의 인증 체계가 얼마나 취약한지, 그리고 이런 기기들이 스파이 도구로 악용될 수 있음을 보여주는 사례다.

커뮤니티 의견

@GN봇: “작년에 Mysa 스마트 온도조절기에서 똑같은 문제를 발견해 공개했는데, 동일한 자격 증명으로 모든 기기를 제어할 수 있었음… 이런 시스템에 취약점이 있다면 공격자가 전력 수요 폭증을 일으킬 수도 있겠다는 생각이 듦”

💡 실무 포인트: IoT 서비스 개발 시 기기별 고유 인증키 발급 필수 - 공유 자격 증명은 대규모 보안 사고로 직결

AI uBlock 블랙리스트

Tue, 24 Feb 2026 00:00:00 +0000

uBlock Origin에서 AI가 생성한 콘텐츠 공장 사이트를 차단하기 위한 공개 블랙리스트 프로젝트다. 생성형 AI가 작성한 웹사이트는 광고와 추천 링크로 채워져 있으며 신뢰할 수 없는 정보를 포함하는 경우가 많다. 다만 유지자의 태도(“Cry about it”)에 대한 비판과, 개인 웹사이트가 잘못 블랙리스트에 올라가는 오탐지 문제가 지적되고 있다.

커뮤니티 의견

@GN봇: “PiHole의 어떤 블록리스트에 내 사이트가 포함되어 있었음. 해제 요청을 했지만 아무 답변도 받지 못했고, 아직도 차단된 상태임”

💡 실무 포인트: 콘텐츠 서비스 운영 시 AI 생성 콘텐츠 블랙리스트에 오탐지로 등록될 리스크 인지 - 사람이 작성했음을 증명할 수 있는 메타데이터 고려

Andrej Karpathy가 말하는 "Claws"

Tue, 24 Feb 2026 00:00:00 +0000

Simon Willison이 Karpathy의 Claws 개념을 정리한 글이다. Claws는 LLM 기반 AI 에이전트 위에 구축된 새로운 계층으로, 오케스트레이션·스케줄링·컨텍스트 관리·도구 호출·지속성 등을 확장하는 구조다. CLI 기반 에이전트 툴 구축 시 보안 측면에서 인간 비서나 컨설턴트를 두는 것과 비슷하게 접근해야 하며, 위험한 행동에는 일회용 비밀번호 같은 안전장치가 필요하다.

커뮤니티 의견

@GN봇: “내가 CLI 기반 에이전트 툴을 만들 때 넣은 안전장치가 있음 - 위험한 행동(예: 대량 이메일 발송)을 하려면 일회용 비밀번호 확인 필요”

💡 실무 포인트: 에이전트에 권한을 부여할 때 인간 비서처럼 접근 - 별도 이메일, 제한된 API 키, 위험 행동에 대한 확인 절차 설계

LLM이 만든 비밀번호가 위험한 이유, 100비트처럼 보이지만 실제론 27비트

Tue, 24 Feb 2026 00:00:00 +0000

보안 회사 Irregular의 연구에 따르면, Claude, ChatGPT, Gemini 같은 최신 LLM이 생성하는 비밀번호가 겉으로는 100비트 이상의 엔트로피를 가진 것처럼 보이지만, 실제로는 약 27비트 수준으로 극도로 취약하다. LLM은 진정한 난수 생성이 불가능하며 예측 가능한 패턴을 따르기 때문이다. 이는 Vibe Coding으로 서비스를 구축하는 비개발자들에게 특히 위험한데, DB 접속 비밀번호 같은 민감한 기본값이 LLM에 의해 생성될 수 있기 때문이다. 개발자라면 openssl rand -hex 64 같은 시스템 난수 생성기를 사용해야 한다.

커뮤니티 의견

@mammal: “아… 공대 1학년한테 미적분 다시 가르치는 교수님들이 왜 그 표정인지 이제 알겠다.”

@davespark: “개발자들이야 별 문제 없겠지만. 요즘 바이브코딩으로 일반인들도 코딩 많이 하니까 코드 속에 자동으로 묻어 들어가는 기본값들이 더 문제될 거 같아요.”

@click: “openssl rand -hex 64 시키면 잘 할텐데 굳이 LLM이 직접 비밀번호를 생성하게 해야할까요…?”

💡 실무 포인트: AI 코딩 도구 사용 시 비밀번호/시크릿 생성은 반드시 시스템 난수 생성기(openssl, /dev/urandom)를 명시적으로 사용하도록 프롬프트에 지시

모든 AI 어시스턴트 개발 기업은 이제 광고 회사임

Tue, 24 Feb 2026 00:00:00 +0000

주요 AI 기업들이 광고 수익에 기반한 비즈니스 모델로 전환하며, 사용자 주변의 모든 시각·청각 정보를 수집하는 하드웨어 중심의 AI 어시스턴트를 개발 중이다. 항상 켜져 있는(Always-on) AI는 음성 호출어 없이도 사용자의 일상 대화를 인식하고 분석한다. 법적으로 정보가 존재하는 한 접근 가능하다는 게 근본적인 프라이버시 문제다.

커뮤니티 의견

@GN봇: “진정한 프라이버시를 지키려면 아예 정보가 존재하지 않아야 함. 개인의 뇌 속 정보처럼 법적으로 보호받는 방향으로 입법이 되었으면 좋겠지만, 현실은 반대로 가는 중임”

💡 실무 포인트: AI 어시스턴트 서비스 설계 시 데이터 최소 수집 원칙과 로컬 처리 옵션 제공 - 프라이버시가 차별화 요소

사전 경고 없는 계정 제한 — Google AI Ultra / OpenClaw OAuth 연동 문제

Tue, 24 Feb 2026 00:00:00 +0000

Google AI Ultra($249/월) 또는 Pro 유료 구독자들이 OpenClaw OAuth 연동 후 사전 경고 없이 계정이 일괄 정지되는 사태가 발생했다. Google은 내부 조사 후 OpenClaw를 통한 인증 정보 사용이 Antigravity 서버를 비-Antigravity 제품에 활용한 것으로 판단하여 계정을 제한했다. 문제는 차단 이유를 명확히 알 수 없고, 고객 지원팀도 기계적인 답변으로 일관한다는 점이다. LLM 프록시 블랙마켓 문제와 연관되어 선의의 사용자들까지 함께 차단당하는 상황이 발생하고 있으며, 유일한 우회 방법은 가족 공유 기능을 통해 다른 계정으로 접근하는 것뿐이다. 이 사태는 서드파티 도구 연동 시 플랫폼 정책 위반 리스크를 명확히 보여준다.

7천 대의 로봇청소기를 우연히 제어하게 된 남성