Open AI의 새로운 대항마 Mistral AI

MistralAI라는 스타트업을 처음 들어보는 사람들도 있겠지만 최근 들어 이 회사에 대한 뉴스를 자주 접하게 된다.

이유는 이 회사가 얼마 전 마이크로소프트와의 업무제휴를 맺고 Amazon Bedrock에 AI 모델을 추가하고

최신 모델을 공개하는 등 연이은 발표를 하고 있기 때문이다.

Mistral AI는 어떤 제품을 제공하고 있는가, 어떻게 하면 이 회사 모델을 이용할 수 있는지 알아본다. 

Mistral AI는 어떤 회사인가

Mistral AI는 프랑스의 AI 스타트업이다. Timothee Lacroix(전 Meta 직원) 와 Guillaume Lample(전 Meta 직원)

그리고 Arthur Mensch(구글 모기업인 Alphabet 산하 AI기업 DeepMind 전 연구원) 3명이 세운 새로운 회사로 2023년 4월 설립되었다.

Mistral AI는 어떤 제품을 제공하는가

Mistral AI는 다양한 사용자 요구에 맞추어 여러 AI 모델을 개발해 출시하고 있으며 상업적 모델과 개방형 모델을 모두 제공하고 있다.

개방형 모델은 무상으로 이용할 수 있으며 완전히 자유롭게 이용할 수 있는 라이선스다.

독자적인 Transformer 모델인 「Mistral 7B」와 「Mixtral 8x7B」가 포함되어 있다.

이 회사 웹사이트에 의하면 「Mistral 7B」는 8K 토큰의 컨텍스트 창을 가지고 있으며, 비교적 소규모로 영어 특화 모델이다.

 이 회사의 오픈 모델 중 가장 능력이 높은 「Mixtral 8x7B」는 32K 토큰 컨텍스트 창을 가지고 있으며, 영어, 프랑스어, 이탈리아어,

독일어, 스페인어, 코딩이 가능한 것으로 알려졌다.

상업용 모델로는 「Mistral Small」 「Mistral Embed」 그리고 최근에 발표한 「Mistral Large」가 있다.

이들 AI는 각각 목적이 다르고, 코스트나 워크로드 기능도 다양하다.

「Mistral Small」과 「Mistral Large」는 영어, 프랑스어, 이탈리아어, 독일어, 스페인어, 코딩을 특기로 하며 32K 토큰 컨텍스트 창을 가지고 있다. 

「Mistral Embed」는 현재 영어판으로만 되어있으며 텍스트에서 뽑아낸 내용의 특징을 요약하도록 설계되어 있다.

또 이 회사는 얼마 전, 무상으로 이용할 수 있는 베타형 챗봇 「Le Chat」도 발표했다.

이 챗봇에서는 언어 모델로 Mistral Large, Mistral Small, 프로트타입 모델인 「Mistral Next」를

이용할 수 있어 사용자가 자유롭게 모델을 바꿀 수 있다.

Le Chat는 현재로서는 인터넷으로 접속할 수 없다. 이 챗봇은 베타 테스트에 사인 인 해야 이용할 수 있다.

https://auth.mistral.ai/ui/login?flow=344f0154-d7da-4417-ba8e-1fd069be6a79

Mistral AI 서비스에 접속하려면

최적화되고 개방된 Mistral AI 모델은 이 회사의 웹 사이트들어가 억세스할 수 있다.

https://mistral.ai/technology/#models

다만 이 모델들은 사용자가 독자적인 어플리케이션을 만들 때 엮어 사용할 수 있도록

생각하고 있어 개발자용으로 만들어지고 있음에 주의하여야 한다.

따라서 이 모델은 고도의 능력을 가지고 있지만 「Chat GPT」와 같은 형태로는 이용할 수 없다.

OpenAI의 API 서비스와 비교하며 사용하면 좋을 것으로 생각한다.

Mistral AI도 최근에 독자적인 AI 챗봇인 Le Chat(사인 필요) 베타형을 공개했다. 

이 챗봇은 ChatGPT와 비슷한 기능을 가지고 있어 다양한 프롬프트에 대해 유용한

답변을 돌려줄 수 있는 대화형 어시스턴트로 이용할 수 있다.

이 챗봇의 큰 특징은 다국어를 지원하는데 영어, 프랑스어, 스페인어, 독일어,

이탈리아어 등의 다양한 언어를 이해할 수 있어 이용하기 편리하다.

Mistral AI 모델과 Open AI 등 경합모델과 비교

Mistral AI는 지난 2월 26일 고성능 텍스트 생성 모델인 Mistral Large를 발표했다.

이 모델은 타사 모델과의 벤치마크에서 「GPT-4」와 거의 동등한 성능이며 「Claude 2」

「Gemini Pro」 「GPT-3.5」 「Llama 270B」와 비교하여 다른 주요 대규모 언어 모델을 능가한다고 주장했다.

(아래 그래프 참조: Mistral AI 제공)

GPT-4는 영어로 특화되어 있는 반면 Mistral Large는 영어, 프랑스어, 스페인어, 독일어,

이탈리아어에 대응할 수 있는 것이 하나의 차별성이며, 현재까지 타의 추종을 불허했던 GPT-4의 유력한 경쟁 상대라고 생각할 수 있을 것이다.

Mistral AI와 제휴하고 있는 기업

최근 마이크로소프트는 Mistral AI와 다년간의 제휴 관계를 맺었다고 밝혔다.

이 발표에서 투자 금액을 언급하지 않았지만 블룸버그의 보도에 의하면 마이크로소프트가

투자한 금액이 1630만 미달러에 이른다고 밝혔다.

https://time.com/6835554/eu-microsoft-mistral-investment/

마이크로소프트는 Open AI에도 거대 자금을 투자하고 있는데 최근 몇 년 동안 100억 달러 규모로 알려져 있다.

이번 투자도 의미하는 바가 크다.

한편 아마존이 「Amazon Bedrock」에서 「Mistral 7B」와 「Mistral 8x7B」

제공을 곧 시작한다는 발표에도 주목해야 할 것이다.

참조 | https://aws.amazon.com/jp/blogs/aws/mistral-ai-models-coming-soon-to-amazon-bedrock/​