Insights/IT Trends
RAG: 기업 맞춤형 AI 솔루션의 핵심 기술
RAG: 기업 맞춤형 AI 솔루션의 핵심 기술
2024.08.09RAG는 Retrieval-Augmented Generation의 약자로, '검색 증강 생성'이라고 번역할 수 있습니다. 이는 대규모 언어 모델(LLM)의 성능을 외부 지식 소스와 결합하여 향상하는 AI 기술입니다. RAG는 LLM의 광범위한 일반 지식과 외부 데이터베이스의 특정하고 최신의 정보를 결합하여, 더 정확하고 맥락에 맞는 응답을 생성하는 것을 목표로 합니다.#1. RAG의 작동 원리RAG 시스템의 작동 과정은 크게 네 단계로 나눌 수 있습니다.질문 처리 (Query Processing)사용자의 질문이나 입력을 받아 분석합니다. 이 단계에서는 질문의 핵심 키워드를 추출하거나, 질문의 의도를 파악합니다.관련 정보 검색 (Information Retrieval)처리된 질문을 바탕으로 외부 지식 저장..
CriticGPT: GPT-4로 GPT-4의 실수를 찾아내다
CriticGPT: GPT-4로 GPT-4의 실수를 찾아내다
2024.07.072024년 6월 27일, OpenAI가 발표한 CriticGPT는 AI 개발 과정에서 중요한 변화를 제시합니다. 개발자들은 항상 더 나은 AI 모델을 만들기 위해 노력하며, 그 과정에서 가장 중요한 것 중 하나는 모델의 실수를 찾아내고 개선하는 것입니다. 지금까지 이 작업은 주로 사람의 몫이었습니다.ChatGPT 개발 과정을 돌이켜보면, 데이터 선별부터 모델의 답변 평가, 그리고 최종 성능 평가까지 모든 단계에서 사람의 개입이 필수적이었습니다. 특히 RLHF(Reinforcement Learning from Human Feedback) 과정에서는 사람이 직접 모델의 답변을 평가하고, 그 피드백을 바탕으로 모델을 개선했습니다. 이는 시간과 노력이 많이 들뿐만 아니라, 평가자의 주관성과 편향이 모델에 영향을..
Claude Projects 가이드: AI 협업의 혁신
Claude Projects 가이드: AI 협업의 혁신
2024.06.302024년 6월 25일, Anthropic은 Claude AI의 획기적인 새 기능 'Projects'를 선보였습니다. 현재는 Claude Pro 또는 Team 플랜 사용자만 이용할 수 있습니다. Claude Projects는 OpenAI의 GPTs와 유사한 개념으로, 사용자가 특정 목적에 맞춰 AI를 커스터마이즈 할 수 있습니다.사용자들은 Claude Projects를 통해 AI 작업 환경을 구축할 수 있고 각 프로젝트는 독립적인 지식 베이스와 대화 기록을 유지하면서 사용자가 원하는 방식으로 AI를 '훈련'시킬 수 있습니다. 사용자는 관련 문서를 업로드하고, 특정 맥락을 제공하며, 원하는 대로 AI의 행동을 조정하면서 결과적으로 매번 같은 설명을 반복할 필요 없이, 프로젝트의 목적에 최적화된 AI 협력자..
Google I/O 2024 핵심 요약: Google의 AI 비전과 전략
Google I/O 2024 핵심 요약: Google의 AI 비전과 전략
2024.05.16Google I/O 2024가 시작되기 하루 전, OpenAI는 스프링 제품 업데이트 라이브 스트리밍 이벤트를 진행했습니다. 이 자리에서 발표된 GPT-4o는 충격 그 자체였습니다. 멀티모달 기능, 빠른 응답 속도, 자연스러운 대화 능력 등 GPT-4o의 성능은 많은 이들을 깜짝 놀라게 했죠. 너무나 충격적이어서 다음 날 열리는 Google I/O에 대한 기대감과 함께 약간의 걱정도 있었습니다.하지만 Google I/O 2024에서 구글은 플랫폼 회사로서의 저력을 유감없이 발휘했습니다. Google Workspace, Android OS, Google Search, Gmail, Google Maps 등 수많은 서비스와 제품을 보유한 구글은 단순히 GPT-4o와 경쟁하는 것이 아니라, 제미나이를 통해 자사..
GPT-4o 사용법: OpenAI의 새로운 혁신
GPT-4o 사용법: OpenAI의 새로운 혁신
2024.05.14오늘 5월 13일 현지시각(한국시간 14일 새벽 2시), OpenAI에서는 스프링 제품 업데이트 라이브 스트리밍 이벤트를 진행했습니다. 이 자리에서 발표된 것이 바로 GPT-4o입니다. GPT-4o는 기존 GPT-4 Turbo 모델의 성능을 넘어서는 동시에, 오디오와 이미지까지 처리할 수 있는 멀티모달 AI 모델로 주목받고 있습니다.이번 발표에 앞서 OpenAI의 CEO 샘 알트먼은 지난 5월 11일, 마치 마법 같은 새로운 것을 예고하는 트윗을 남긴 바 있습니다. 그리고 그 '마법 같은 것'이 바로 GPT-4o였던 것이죠.사실 GPT-4o는 이미 지난 4월 27일, LMSYS Chatbot Arena에서 "im-also-a-good-gpt2-chatbot"이라는 이름으로 등장했고, 많은 사람들이 이 모..
미스터리 모델 'gpt2'의 실체와 사용법
미스터리 모델 'gpt2'의 실체와 사용법
2024.05.11최근 LMSYS Chatbot Arena에 정체불명의 언어 모델(LLM)이 등장했습니다. LMSYS Chatbot Arena는 대규모 언어 모델(LLM)의 성능을 평가하는 대규모 벤치마킹 플랫폼입니다. 이 플랫폼은 사용자가 두 개의 LLM이 생성한 응답을 비교하고 선호하는 응답을 선택하도록 요청하는 방식으로 작동합니다. 두 개의 모델은 무작위로 선택되어 제공됩니다. 모델은 GPT-4, Claude3, Gemini, llama 모델 등 39개의 모델들이 있습니다. 이러한 평가를 통해 LMSYS Chatbot Arena는 각 LLM의 강점과 약점을 식별하고 Elo 레이팅 시스템을 사용하여 LLM의 전체 성능을 순위 지정합니다. 각종 LLM 모델이 새로 나올 때마다 벤치마크 점수는 높지만 실제 사용해 보면 기..
Udio: 프롬프트로 생성하는 AI 음악 (사용법)
Udio: 프롬프트로 생성하는 AI 음악 (사용법)
2024.04.212024년 4월 10일, 구글 딥마인드 출신 공학자들이 만든 오디오 및 음악 생성 인공지능 서비스인 Udio가 베타 버전을 공개했습니다. 이전에도 Suno, Stable Audio 등의 음악 생성 서비스가 있었지만, Udio 역시 간단한 프롬프트로 음악을 생성할 수 있는 획기적인 서비스를 선보였습니다. Udio는 사용자가 원하는 음악 유형에 대한 설명을 입력하면, AI 시스템이 프롬프트에 맞게 독특하고 고품질의 음악을 생성합니다. 비록 인간이 작곡한 음악을 완전히 대체할 수는 없겠지만, 음악가와 음악 애호가 모두에게 강력한 도구가 될 것으로 기대되고 있습니다. 현재 사용자 급증으로 인한 서버 과부하 이슈를 겪고 있기는 하지만, 사람이 없는 시간대에는 40초 만에 30초짜리 곡 2개를 금방 만들어낼 수 있..
Meta: Llama 3 발표
Meta: Llama 3 발표
2024.04.192024년 4월 18일, Meta에서 새로운 대형 언어 모델인 Llama 3을 공개했습니다. 이 모델은 8B(80억)과 70B(700억) 두 가지 버전으로 제공되며, 다양한 애플리케이션에 적합하도록 사전 훈련 및 지시어 튜닝이 완료된 상태입니다. 매개변수 4,050억 개에 달하는 'Llama 3'는 오는 7월 출시할 예정입니다. Meta AI Meta AI Use Meta AI assistant to get things done, create AI-generated images for free, and get answers to any of your questions. Meta AI is built on Meta's latest Llama large language model and uses Emu, o..
세계를 이끄는 빅6 AI 기업 (2024년 4월 기준)
세계를 이끄는 빅6 AI 기업 (2024년 4월 기준)
2024.04.152022년 11월 30일, ChatGPT의 출시와 함께 인공지능 분야에 새로운 장이 열렸습니다. 이후 1년 4개월이 지난 지금, 우리는 기술 발전의 전쟁터에 서 있습니다. 인공지능은 단순한 기술 발명을 넘어서, 지난 수백 년 간 인류가 이루어낸 주요 기술 혁신만큼이나 중요한 위치를 차지하게 되었습니다. 최근 일론 머스크 테슬라 CEO는 한 인터뷰에서 "내년 말까지 인간보다 더 똑똑한 AI가 등장할 것이며, 5년 내로는 AI의 능력이 인류를 능가할 것"이라고 전망했습니다.이러한 배경 속에서, 빅테크 기업과 AI 스타트업들 사이의 경쟁은 더욱 치열해지고 있습니다. 특히, OpenAI, ANTHROPIC, Mistral AI, Google, Meta, 그리고 xAI까지 포함한 빅6 인공지능 기업들은 각자의 방..
일론 머스크의 Grok-1.5 발표
일론 머스크의 Grok-1.5 발표
2024.04.063월 28일(현지시간), 일론 머스크(Elon Musk)의 인공지능 스타트업 xAI는 대화형 생성 AI, Grok의 새로운 버전인 Grok-1.5를 발표했습니다. 이 업그레이드는 향상된 추론 기능과 함께 128,000개 토큰의 컨텍스트를 처리할 수 있는 능력을 소개합니다. Grok-1.5는 이번 주내에 소셜 미디어 플랫폼 X(이전의 트위터)에서 초기 테스터 및 기존 Grok 사용자들에게 제공될 예정입니다. Grok-1.5의 주요 개선 사항 Grok-1.5의 출시로 가장 주목받는 개선 사항 중 하나는 코딩 및 수학 관련 작업에서의 성능 향상입니다. MATH 및 GSM8K 벤치마크에서 각각 50.6%, 90%의 점수를 달성함으로써, 초등학교부터 고등학교까지의 다양한 수학 문제를 다룰 수 있는 능력을 입증했습..
DigitalOcean App 배포: 간단 가이드 (계정 생성 포함)
DigitalOcean App 배포: 간단 가이드 (계정 생성 포함)
2024.03.13DigitalOcean은 2011년에 설립된 클라우드 인프라 서비스를 제공하는 기업으로, 소규모 기업, 스타트업, 그리고 개발자들 사이에서 깊은 인기를 끌고 있습니다. 이 플랫폼은 사용의 용이성, 비용 효율성, 그리고 풍부한 커뮤니티와 지원 시스템을 바탕으로, 애플리케이션의 배포, 관리 및 확장을 간편하게 할 수 있도록 다양한 도구와 서비스를 제공합니다. DigitalOcean의 핵심 제품으로는 드롭렛(Droplets)이라 불리는 가상 서버, 관리형 데이터베이스, 오브젝트 스토리지 등이 있으며, 이러한 서비스들은 웹사이트, App, 데이터베이스의 신속한 배포 및 운영을 가능하게 합니다. AWS(Amazon Web Services), Google Cloud Platform, Azure와 같은 다른 클라우드..
Claude 3 사용 가이드: 뛰어난 성능과 속도
Claude 3 사용 가이드: 뛰어난 성능과 속도
2024.03.083월 4일, Anthropic사는 GPT-4의 성능에 도달한 Claude 3 모델 패밀리를 출시했습니다. Anthropic사는 Google과 Amazon의 투자를 받는 회사입니다. 현재 ChatGPT, Gemini, Mistral, Llama에 이어 매우 기대되는 모델입니다. Claude 3 model family Claude 3 model은Claude 3 Haiku, Claude 3 Sonnet, Claude 3 Opus라는 세 가지 모델로 구성되어 있습니다. 이 모델들은 각각 특정한 요구 사항과 응용 프로그램에 맞춰 설계되었습니다. Claude 3 Opus: 복잡한 문제를 해결하는 데 있어 가장 진보된 AI 지능을 제공합니다. Claude 3 Sonnet: 속도와 지능 사이의 균형을 유지하면서 엔터프..