AI 기반 코드 가속화 툴킷인 코디움(Codeium)이 개발자들에게 단순한 코파일럿이 아닌 더 많은 작업을 수행할 수 있는 강력한 엔진을 제공하는 AI 기반 추론 엔진인 ‘코텍스(Cortex)’를 출시했다. 코텍스는 개발자들에게 복잡한 코딩 문제를 더 효율적으로 관리하고 해결하는 데 필요한 고급 도구를 제공한다.

추론은 AI가 인간 수준 또는 초인적 수준의 지능을 달성하는 데 핵심이다. AI 코파일럿에서 AI 모델의 다음 단계로 초점이 이동함에 따라 코텍스는 중요한 역할을 한다. 표준 코파일럿처럼 단순하고 고립된 작업을 지원하는 대신, 코텍스는 대규모 추론을 지원하여 코드 생성, 리뷰, 지식 전달을 가능하게 한다. 코디움은 이 강력한 접근 방식을 제3자 API를 사용하는 것보다 40배 빠르고 1000배 저렴하게 실행할 수 있다.

코텍스는 다음 세 가지 발전을 통해 구현됐다.

① 독점 코드 LLM: 개발자들이 작업에 접근할 때 사용하는 친숙한 검색, 계획, 실행 워크플로우를 모방한다.

② 확장 가능한 컨텍스트 처리: 품질 손실 없이 1억 개 이상의 코드 토큰에 대해 테스트되어 방대한 양의 컨텍스트를 추론할 수 있다.

③ 초고속 처리: 분산 컴퓨팅을 통해 코텍스는 몇 시간이 아닌 몇 초 만에 실행되어 실시간으로 인간이 개입하여 상호작용할 수 있다.

이러한 기능은 코드 작성, 코드 리팩토링, 코드 리뷰, 코드 설명 등 작업에 관계없이 적용되어 프로세스를 몇 시간에서 몇 분으로 간소화하며, 기초 모델의 추론에서 근본적인 돌파구를 제공한다.

코디움에 익숙한 고객들은 코디움의 이전 시스템에 비해 2배, 최첨단 임베딩+제3자 API 시스템에 비해 3배 더 많은 관련 컨텍스트 정보를 회상할 수 있을 것이다.

코디움의 CEO인 바룬 모한(Varun Mohan)은 “코텍스는 개별 개발자들이 더 복잡한 문제를 더 빠르게 해결하도록 돕고, 더 강력한 방식으로 도전에 접근할 수 있게 한다.”라고 말했다.