Cyber Tier에 올린 다음 날인 10월 24일 Hugging Face에 GGUF 가중치를 MIT 라이선스로 공개
거부 응답 91.5%로 줄었고 MMLU는 원본의 91%보다 조금 높은 92%
API는 100만 토큰 컨텍스트에 100만 토큰당 입력 0.80달러·출력 1.60달러… 로컬 실행은 128GB·256GB 메모리 구성에서 가능
API와 가중치를 하루 간격으로
OrcaRouter는 10월 23일 DeepSeek V4.1 Flash 1017 체크포인트를 자체적으로 어블리터레이션(abliteration)해 Cyber Tier에 추가했다. 어블리터레이션은 모델의 거부 응답 방향을 계산해 제거하는 기법으로, 가중치를 다시 학습시키지 않고 안전 정렬의 한 축만 걷어낸다. OrcaRouter는 같은 모델을 OrcaCyber Zero, OrcaCyber Ultra와 나란히 배치했다. 다음 날에는 같은 모델의 GGUF 양자화 가중치를 MIT 라이선스로 공개했다. API로 쓰던 모델을 같은 주에 자기 장비로 내려받을 수 있게 된 셈이다.
거부는 91.5% 줄고 MMLU는 92%
OrcaRouter가 공개한 수치는 두 개다. 거부 응답은 원본보다 91.5% 줄었다. 대신 MMLU는 92%로, 원본의 91%보다 1%포인트 높다. 어블리터레이션이 성능을 깎는다는 통념과 반대 방향의 결과다. OrcaRouter는 이 모델이 자사가 시험한 DeepSeek V4.1 계열 무검열 가중치 가운데 가장 강한 축에 든다고 밝혔다.
100만 토큰 컨텍스트
모델 사양은 보안 작업 쪽에 맞춰져 있다. 컨텍스트는 100만 토큰이고, 저장소 전체나 대용량 로그, 패킷 캡처, 디스어셈블리 목록을 검색 파이프라인 없이 한 번에 넣을 수 있다. 텍스트와 이미지를 함께 입력받으므로 인터페이스 화면, 오류 상태, 네트워크 구성도, 스캔한 문서를 소스 코드와 같이 놓고 추론할 수 있다. 사고 추적과 취약점 재현, 익스플로잇 개발, 침투 테스트 도구 제작, 보안 감사와 코드 리뷰, 악성코드와 바이너리 분석, 로그·트래픽 분류, 탐지 규칙 작성까지 한 모델 안에서 이어진다. 사고 대응 도구가 계획을 세우고 함수를 호출해 결과를 기계가 읽을 수 있는 형식으로 돌려받는 구조도 지원한다.
벤치마크
OrcaRouter가 공개한 점수는 CyberGym 88.1, SEC-Bench Pro 62.8, Terminal-Bench 2.1 90.6, DeepSWE v1.1 74.2, GPQA Diamond 90.9다. 원본인 DeepSeek V4.1 Flash 1017은 10월 17일 공개된 스냅샷으로, Artificial Analysis의 사이버 지수에서 공개 모델 가운데 1위인 57%를 기록했다. 과제당 비용은 0.42달러다. OrcaRouter는 같은 체크포인트의 거부 방향만 제거해 이 성능을 유지했다고 설명했다.
왜 무검열 모델인가
OrcaRouter는 보안 커뮤니티의 요청이 잇따랐다고 밝혔다. 배경에는 이미 벌어진 일이 있다. 크라우드스트라이크가 10월 공개한 분석에 따르면 한국 금융기관을 겨냥한 침해에서 중국에서 개발된 오픈소스 에이전트형 침투 도구 ARTEX가 쓰였고, 그 주력 모델은 DeepSeek V4.1 Flash였다. 공격자는 그 모델을 프록시를 통해 호출했고, GLM-5.3과 Grok 4.6을 추가 세션에 붙였다. 공격에 쓰인 모델과 방어에 쓸 수 있는 모델이 같아진 상황에서 방어자만 거부 응답을 받는 비대칭이 남는다. OrcaRouter는 이 비대칭을 줄이는 쪽을 택했다.
가격과 접근 조건
Cyber Tier의 DeepSeek V4.1 Flash Abliterated는 100만 토큰당 입력 0.80달러, 출력 1.60달러다. 첫 토큰까지 걸리는 중앙값은 1.97초다. OrcaRouter는 이 모델이 EU 리전에서 기본적으로 제로 데이터 보존(ZDR)으로 호스팅된다고 밝혔다. 호출에는 인증이 필요하다. OrcaRouter는 이 모델을 신뢰할 수 있는 보안 연구자를 위한 Security Research 등급으로 제한하고 있다.
로컬 실행
가중치는 Hugging Face 저장소에 올라가 있다. 128GB 구성용과 256GB 구성용 두 가지로 나뉘고, llama.cpp에서 바로 읽는 GGUF 형식이다. 저장소에는 양자화에 쓰인 imatrix 파일도 함께 들어 있다. OrcaRouter는 클라우드 없이 자기 인프라에서 돌리는 경로를 열어 두는 것이 이번 공개의 목적이라고 밝혔다. 가중치를 내려받으려면 Hugging Face 계정으로 저장소 약관에 동의해야 한다.
주요 모델
OrcaRouter는 단일 API 키와 엔드포인트로 다음을 포함한 200개 이상의 모델을 제공한다.
· DeepSeek V4.1 Flash Abliterated
· DeepSeek V4.1 Flash 1017
· OrcaCyber Zero 1.5
· OrcaCyber Ultra 1.0
· Claude Opus 5.5
· GPT-6.1 Sol
· GLM-5.3
참고
· OrcaCyber DeepSeek V4.1 Flash Abliterated 모델 페이지
· Hugging Face 가중치 저장소
· DeepSeek V4.1 Flash 1017 모델 페이지
· 요금 안내
· OrcaRouter 웹사이트
OrcaRouter 소개
OrcaRouter는 OpenAI 호환 LLM 게이트웨이로, 200개가 넘는 모델에 걸쳐 라우팅하며 약 40%의 비용 절감, 1밀리초 미만의 라우팅 오버헤드, 0%의 토큰 마크업을 제공한다. 자체 호스팅 에디션인 OrcaRouter-Lite는 MIT 라이선스로 제공된다.
CONTINUUM AI PTE. LTD. 소개
컨티뉴엄 AI(Continuum AI Pte. Ltd.)는 최첨단 AI를 개발자와 팀이 접근 가능하고 합리적인 비용으로 사용할 수 있도록 하기 위해 설립된 싱가포르 기반 기업이다. 단일 API 키와 엔드포인트를 통해 200개 이상의 선도적인 AI 모델에 대한 액세스를 제공하는 OpenAI 호환 AI Gateway인 OrcaRouter를 개발한 회사다. OrcaRouter는 약 40%의 비용 절감, 1ms 미만의 라우팅 오버헤드, 토큰 마크업 없음을 제공하며, MIT 라이선스로 출시된 자체 호스팅 버전(OrcaRouter-Lite)도 함께 제공한다.
웹사이트: https://www.orcarouter.ai
연락처
컨티뉴엄 AI(Continuum AI Pte. Ltd.)
OrcaRouter
Koki Kobayashi
이메일 보내기