우리는 플랫폼과 전체 AI/ML 생태계의 보안을 향상한다는 목표로 Wiz와 파트너십을 맺게 되었음을 발표하게 되어 기쁘게 생각합니다.
Wiz 연구원들은 플랫폼의 보안을 위해 Hugging Face와 협력하고 결과를 공유합니다. Wiz는 고객이 안전하게 소프트웨어를 구축하고 유지 관리할 수 있도록 지원하는 클라우드 보안 회사입니다. 이 연구 결과를 통해 우리는 몇 가지 관련 Hugging Face 보안 개선 사항을 강조할 기회를 갖게 될 것입니다.
-
Hugging Face와 Wiz의 파트너십에 대한 자세한 내용 https://www.wiz.io/blog/wiz-and-hugging-face-address-risks-to-ai-infrastruct
Hugging Face는 최근 취약성 관리를 위해 Wiz를 통합했습니다. 이는 당사 플랫폼이 보안 취약성으로부터 보호되도록 보장하는 지속적인 사전 대응 프로세스입니다. 또한 클라우드 보안 상태 관리(CSPM)를 위해 Wiz를 사용하고 있는데, 이를 통해 클라우드 환경을 안전하게 구성하고 모니터링하여 보안을 보장할 수 있습니다.
우리가 가장 좋아하는 Wiz 기능 중 하나는 스토리지에서 컴퓨팅, 네트워크에 이르기까지 취약점에 대한 전체적인 보기입니다. 우리는 여러 Kubernetes(k8s) 클러스터를 실행하고 여러 지역 및 클라우드 제공자에 걸쳐 리소스를 보유하고 있으므로 단일 위치에서 각 취약점에 대한 완전한 컨텍스트 그림이 포함된 중앙 보고서를 갖는 것이 매우 유용합니다. 또한 당사 제품, 특히 Spaces에서 감지된 문제를 자동으로 해결하는 도구를 구축했습니다.
공동 노력 과정에서 Wiz의 보안 연구팀은 피클을 사용하여 시스템 내에서 임의의 코드를 실행함으로써 샌드박스 컴퓨팅 환경의 결함을 식별했습니다. 이 블로그와 Wiz의 보안 연구를 읽으면서 우리는 이 취약점과 관련된 모든 문제를 해결했으며 위협 탐지 및 사고 대응 프로세스를 계속해서 경계할 것임을 기억하십시오.
포옹 얼굴 안전
Hugging Face에서는 안전을 매우 중요하게 생각합니다. 인공지능이 빠르게 발전하면서 새로운 위협 벡터가 매일 등장하는 것 같습니다. Hugging Face는 기술 분야의 유명 인사들과 여러 파트너십 및 비즈니스 관계를 발표하면서도 사용자와 AI 커뮤니티가 AI/ML 시스템 및 기술을 책임감 있게 실험하고 운영할 수 있도록 지원하기 위해 최선을 다하고 있습니다. 우리는 커뮤니티가 우리 모두에게 영향을 미칠 패러다임 전환에 기여하고 그 일부가 될 수 있도록 플랫폼을 확보하고 AI/ML의 민주화를 추진하는 데 최선을 다하고 있습니다. 우리는 보안 위협으로부터 사용자와 고객을 보호하겠다는 약속을 재확인하기 위해 이 블로그를 작성했습니다. 아래에서는 논쟁의 여지가 있는 피클 파일 지원에 대한 Hugging Face의 철학에 대해서도 논의하고 피클 형식에서 벗어나기 위한 공동 책임에 대해서도 논의합니다.
또한 가까운 시일 내에 많은 흥미로운 보안 개선 사항과 발표가 있을 예정입니다. 이 간행물은 Hugging Face 플랫폼 커뮤니티가 직면한 보안 위험에 대해 논의할 뿐만 아니라 AI의 시스템적 보안 위험과 최선의 완화 방법도 다룹니다. 우리는 항상 제품, 인프라 및 AI 커뮤니티의 보안을 보장하기 위해 최선을 다하고 있습니다. 이후의 보안 블로그 게시물과 백서를 주의 깊게 살펴보시기 바랍니다.
커뮤니티를 위한 오픈 소스 보안 협업 및 도구
우리는 취약점 식별 및 공개에 참여하고, 보안 문제를 공동으로 해결하고, 보안 도구를 개발하는 등 투명성과 커뮤니티와의 협력에 높은 가치를 두고 있습니다. 다음은 전체 AI 커뮤니티가 보안 위험을 줄이는 데 도움이 되는 협업을 통해 달성한 보안 결과의 예입니다.
-
Picklescan은 Microsoft와 공동으로 개발되었습니다. 이 프로젝트는 Matthieu Maitre에 의해 시작되었으며 내부적으로도 동일한 도구 버전이 있었기 때문에 우리는 힘을 합쳐 Picklescan에 기여했습니다. 이것이 어떻게 작동하는지 더 알고 싶다면 다음 문서 페이지를 참조하십시오: https://hf.co/docs/hub/en/security-pickle
-
Safetensor는 Nicolas Patry가 개발한 피클 파일보다 안전한 대안입니다. Safetensors는 EuletherAI 및 Stability AI와의 공동 프로젝트에서 Trail of Bits의 감사를 받았습니다.
https://hf.co/docs/safetensors/en/index
-
우리는 전 세계의 많은 훌륭한 연구자들을 끌어들이는 강력한 버그 포상금 프로그램을 보유하고 있습니다. 보안 취약점을 식별한 연구원은 [email protected]에 문의하여 프로그램에 참여할 수 있습니다.
-
악성 코드 검사: https://hf.co/docs/hub/en/security-malware
-
개인 정보 검색: 자세한 내용은 다음 링크를 방문하십시오: https://hf.co/docs/hub/security-secrets
-
앞서 언급한 것처럼 우리는 플랫폼 보안 위험을 줄이기 위해 Wiz와도 협력하고 있습니다.
-
우리는 AI/ML 커뮤니티가 직면한 보안 문제를 해결하기 위해 일련의 보안 간행물을 출시할 예정입니다.
오픈 소스 AI/ML 사용자를 위한 보안 모범 사례
-
AI/ML은 새로운 공격 벡터를 도입하지만 이러한 공격 중 상당수는 완화 방법이 오랫동안 존재해 왔으며 알려져 왔습니다. 보안 전문가는 관련 보안 제어가 AI 리소스 및 모델에 적용되도록 해야 합니다. 또한 오픈 소스 소프트웨어 및 모델 작업 시 몇 가지 리소스와 모범 사례는 다음과 같습니다. -
기여자를 파악하세요. 신뢰할 수 있는 소스의 모델만 사용하고 커밋 서명에 주의하세요. https://hf.co/docs/hub/en/security-gpg -
프로덕션에서 피클 파일을 사용하지 마세요 -
Safetensors 사용: https://hf.co/docs/safetensors/en/index -
OWASP 상위 10개 검토: https://owasp.org/www-project-top-ten/ -
Hugging Face 계정에서 MFA를 활성화하세요. -
적절한 보안 교육을 통해 보안 전문가 또는 엔지니어의 코드 검토를 포함하는 보안 개발 수명주기를 확립하십시오. -
비프로덕션 및 가상화된 테스트/개발 환경에서 모델을 테스트합니다.
피클 파일 – 무시할 수 없는 보안 위험
Pickle 파일은 Wiz의 연구와 Hugging Face에 대한 보안 연구원의 기타 최근 간행물의 초점이 되었습니다. Pickle 파일은 오랫동안 보안 위험으로 간주되어 왔습니다. 자세한 내용은 https://hf.co/docs/hub/en/security-pickle 설명서를 참조하세요.
이러한 알려진 보안 결함에도 불구하고 AI/ML 커뮤니티는 여전히 피클 파일(또는 쉽게 악용할 수 있는 유사한 형식)을 자주 사용합니다. 이러한 사용 사례 중 다수는 위험이 낮거나 테스트 목적으로만 사용되므로 안전한 대안보다 피클 파일의 친숙성과 사용 용이성이 더 매력적입니다.
오픈 소스 인공 지능 플랫폼으로서 다음과 같은 옵션이 있습니다.
-
피클된 파일을 완전히 비활성화합니다. -
피클된 파일에 대해 아무 작업도 수행하지 않음 -
피클링된 파일과 관련된 위험을 합리적이고 현실적으로 완화하면서 피클링을 허용하는 중간 지점을 찾으세요.
우리는 현재 타협인 세 번째 옵션을 선택합니다. 이러한 선택은 우리 엔지니어링 팀과 보안 팀에 부담이 되지만, 우리는 AI 커뮤니티가 원하는 도구를 사용할 수 있도록 하면서 위험을 완화하기 위해 상당한 노력을 기울였습니다. 피클 관련 위험에 대해 우리가 구현한 주요 완화 조치 중 일부는 다음과 같습니다.
-
위험을 설명하는 명확한 문서 작성 -
자동화된 스캐닝 도구 개발 -
使用扫描工具和标记具有安全漏洞的模型并发出明确的警告 -
我们甚至提供了一个安全的解决方案来代替 pickle (Safetensors) -
我们还将 Safetensors 设为我们平台上的一等公民，以保护可能不了解风险的社区成员 -
除了上述内容之外，我们还必须显着细分和增强使用模型的区域的安全性，以解决其中潜在的漏洞
我们打算继续在保护和保障 AI 社区方面保持领先地位。我们的一部分工作将是监控和应对与 pickle 文件相关的风险。虽然逐步停止对 pickle 的支持也不排除在外，但我们会尽力平衡此类决定对社区的影响。
需要注意的是，上游的开源社区以及大型科技和安全公司在贡献解决方案方面基本上保持沉默，留下 Hugging Face 独自定义理念，并大量投资于开发和实施缓解措施，以确保解决方案既可接受又可行。
结束语
我在撰写这篇博客文章时，与 Safetensors 的创建者 Nicolas Patry 进行了广泛交流，他要求我向 AI 开源社区和 AI 爱好者发出行动号召:
-
主动开始用 Safetensors 替换您的 pickle 文件。如前所述，pickle 包含固有的安全缺陷，并且可能在不久的将来不再受支持。 -
继续向您喜欢的库的上游提交关于安全性的议题/PR，以尽可能推动上游的安全默认设置。
AI 行业正在迅速变化，不断有新的攻击向量和漏洞被发现。Hugging Face 拥有独一无二的社区，我们与大家紧密合作，以帮助我们维护一个安全的平台。
请记住，通过适当的渠道负责任地披露安全漏洞/错误，以避免潜在的法律责任和违法行为。
想加入讨论吗？请通过 [email protected] 联系我们，或者在 LinkedIn/Twitter 上关注我们。
英文原文: https://hf.co/blog/hugging-face-wiz-security-blog
原文作者: Josef Fukano, Guillaume Salou, Michelle Habonneau, Adrien, Luc Georges, Nicolas Patry, Julien Chaumond
译者: xiaodouzi
本文分享自微信公众号 - Hugging Face（gh_504339124f0f）。
如有侵权，请联系 [email protected] 删除。
本文参与“OSC源创计划”，欢迎正在阅读的你也加入，一起分享。