댓글 0
기사입력 : 2023.11.22 10:48
스노우플레이크가 자사의 데이터 클라우드 플랫폼에서 AI/ML 관련 기술 지식이 없이도 쉽고 안전하게 생성형 AI를 활용할 수 있는 완전 관리형 서비스 스노우플레이크 코텍스(Cortex)를 발표했다. 이를 통해 고객들은 LLM 기반의 AI 앱을 간편하게 구축해 데이터 가치를 창출할 수 있게 된다.
스노우플레이크 코텍스는 메타(Meta) AI의 Llama 2와 같은 LLM(대규모 언어 모델), 태스크 특화 모델, 고급 벡터 검색 기능, 서버리스 함수 세트(서비스로 제공되는 함수)에 바로 액세스할 수 있도록 지원한다. 이를 기반으로 고객들은 분석 속도를 높이고, 컨텍스트화된 LLM 기반의 앱을 수 분 만에 구축할 수 있게 된다. 이와 더불어 스노우플레이크는 코텍스를 활용한 문서의 자연어 처리와 관리를 가능하게 하는 도큐먼트 AI(Document AI), LLM 어시스턴트 스노우플레이크 코파일럿(Copilot), LLM 기반 검색 유니버설 서치(Universal Search)를 프라이빗 프리뷰 형태로 공개했다.
이에 대해 스노우플레이크 AI 부문 SVP 슈리다 라마스워미는 “스노우플레이크는 고객들이 데이터의 안전성과 거버넌스를 확보하고 강력한 AI/ML 앱을 구축하는 데 필요한 데이터 기반과 AI의 최신 구성 요소를 제공해 AI 혁신 선두 주자가 될 수 있도록 지원하고 있다”며 “스노우플레이크 코텍스는 생성형 AI를 활용해 사용자 맞춤형 앱을 구축하거나 데이터를 기반으로 비즈니스 가치를 창출하도록 할 것”이라고 말했다.
완전 관리형 서비스인 스노우플레이크 코텍스는 고객들이 AI 전문 지식 또는 GPU 기반 인프라 관리 없이도 LLM과 AI를 쉽게 활용할 수 있도록 필요한 구성 요소를 제공한다. SQL 혹은 파이썬 코드의 함수 호출에서 사용할 수 있는 서버리스 함수 세트가 포함되며 함수 세트는 계속해서 추가될 예정이다.
스노우플레이크 스트림릿(Streamlit)도 LLM을 기반으로 한 사용자 맞춤형 앱을 빨리 구축하는 데 활용되고 있다. 스트림릿을 통해 파이썬 기반의 인터랙티브 앱으로 만들어 데이터와 AI 모델, 분석 및 앱 기능을 구현할 수 있다. 2023년 9월 기준 총 1만개 이상의 앱이 스트림릿으로 개발되고 있으며 보험업체 프라이오리티 헬스(priority health), 쓰리엠(3M), 보안 업체 앤빌로직(Anvilogic), 부동산 관리 스타트업 앱폴리오(AppFolio), 의료업체 밥티스 헬스(Baptist Health), 소프트웨어 기업 엑스페리언(Experian), 정보분석업체 트랜스유니온(TransUnion) 등의 업체들이 활용하고 있다.
완전 맞춤형 LLM 앱을 개발하고자 하는 고급 사용자는 스노우플레이크 스노우파크 컨테이너 서비스를 사용하면 된다. 이를 통해 컨테이너화된 워크로드의 안전한 배포와 관리를 간편하게 수행할 수 있다. 스노우파크 컨테이너 서비스는 개발자가 상용 LLM 서비스와 벡터 데이터베이스 등의 정교한 타사 앱을 스노우플레이크 계정 내에서 실행할 수 있도록 하며 조직은 데이터 클라우드 내에서 오픈소스 LLM을 손쉽게 배포하고 운영 및 관리할 수 있게 된다.
