구글 클라우드가 기업용 인공지능(AI) 플랫폼 '버텍스 AI' 모델과 엔터프라이즈 기능을 업데이트했다.
구글 클라우드는 지난 5월 프리뷰 버전으로 선보인 제미나이 1.5 플래시를 공식 출시했다.
제미나이 1.5 플래시는 100만 토큰 컨텍스트 윈도우를 결합해 리테일 기업의 채팅 에이전트부터 리서치 에이전트에 이르기까지 광범위하게 사용된다.
제미나이 1.5 플래시는 성능, 지연 시간, 비용 효율성 면에서 GPT-3.5 터보를 비롯한 동급 모델 대비 뛰어나다. 1만 자 입력 기준 속도가 평균 40% 빠르다.
제미나이 1.5 프로도 정식 출시했다. 최대 200만개 토큰 컨텍스트 윈도우와 멀티모달을 지원한다. 통상 6분 분량 동영상을 분석하려면 10만개 이상 토큰이 소요된다. 대규모 코드 베이스의 경우 100만개 이상 토큰이 필요하다.
구글 클라우드는 고객이 제미나이 1.5 프로·플래시 모델의 방대한 컨텍스트 윈도우를 효율적으로 활용할 수 있도록 컨텍스트 캐싱 기능을 프리뷰 버전으로 제공한다.
버텍스 AI 컨텍스트 캐싱은 자주 사용하는 컨텍스트 캐시 데이터를 활용해 고객이 최대 76%까지 비용을 절감하도록 돕는다. 컨텍스트 캐싱 응용 프로그래밍 인터페이스(API)를 제공하는 업체는 구글 클라우드가 유일하다.
구글 클라우드는 일부 고객에는 프로비저닝 처리량을 제공한다. 제미나이 1.5 플래시를 포함한 구글 자체 모델 사용량을 필요에 맞게 적절히 확장할 수 있다.
이러한 버텍스 AI 기능은 고객 워크로드에 예측 가능성과 안전성을 제공, 고객이 생성형 AI를 적극 도입할 수 있도록 돕는다.
구글 클라우드는 자사 생성형 AI 에이전트를 특정 제공업체 데이터로 그라운딩할 수 있는 새로운 서비스를 올해 3분기부터 제공한다. 기업은 타사 데이터를 생성형 AI 에이전트에 통합해 고유 사례를 발굴하고, AI 경험 전반에서 엔터프라이즈 지식을 더 많이 도출할 수 있다.
구글 클라우드는 최신 이미지 생성 모델 이마젠 3 성능도 높였다. 이전 모델 대비 40% 이상 빠른 이미지 생성으로 프로토타이핑과 반복 작업을 지원한다. 프롬프트 이해 및 명령 수행 능력, 실사 수준 인물 그룹 생성, 이미지 내 텍스트 렌더링 제어 능력 등이 향상됐다.
구글 클라우드는 버텍스 AI에서 제공되는 자사 모델과 오픈 모델, 타사 모델 제품군으로 고객에게 선택권과 혁신을 지원한다.
최근에는 앤트로픽의 클로드 3.5 소넷을 버텍스 AI에 추가했다. 고객은 구글 클라우드 환경에서 클로드 3.5 소넷으로 테스트를 진행하거나 운영 환경에 배포할 수 있다.
올해 하반기에는 미스트랄의 스몰·라지·코드스트랄을 버텍스 AI의 모델 가든에서 제공할 예정이다.
.png?type=nf190_130)
.png?type=nf190_130)
