llm

할루시네이션 줄이고, 회사 데이터에 기반해 답하게 만드는 RAG 2.0과 벡터 데이터베이스 트렌드1. 왜 다시 RAG인가? – 2026년 기준 위상RAG(Retrieval-Augmented Generation)는 LLM이 회사 내부 문서·DB를 검색해 온 뒤, 그 결과를 바탕으로 답을 생성하는 구조로, 2026년에는 엔터프라이즈 표준 패턴에 가깝게 자리 잡았습니다. Gartner는 2026년까지 Q&A형 GenAI·NLP 활용 사례의 70% 이상이 벡터 데이터베이스를 활용해 기저 모델을 “그라운딩(grounding)”할 것이라고 전망하며, RAG를 신뢰도·정확도를 높이는 핵심 방법론으로 평가합니다. 최근 글들은 RAG의 진화를 ‘RAG 2.0’이라고 부르며, 단순 “문서 검색 + LLM”을 넘어, 하이브..

이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다. 거대한 LLM에서, 작고 똑똑한 SLM+엣지 AI로 – 비용·지연·프라이버시까지 잡는 현실형 AI 전략1. 2026년 키워드: “작을수록 똑똑하다(Smaller is Smarter)”2024~2025년까지는 수천억~수조 파라미터를 가진 초거대 LLM이 화제의 중심이었지만, 2026년 들어 기업·서비스 관점에서는 SLM(Small Language Model), 즉 수억~수십억 파라미터급 모델에 대한 관심이 급격히 커졌습니다. 대규모 GPU 클러스터와 높은 API 요금, 수백 ms~수초 단위 지연(latency), 데이터 주권·프라이버시 규제가 겹치면서, “서비스 현장에 바로 붙여 쓸 수 있는 가벼운 모델”에 무게 중심이..

"이 포스팅은 Coupang Partners 활동의 일환으로, 이에 따른 소정의 수수료를 제공받을 수 있습니다."2025 IT 랜덤 이슈: DeepSeek 쇼크와 저비용 고성능 AI의 파급력2025년 상반기, AI 스타트업 DeepSeek이 초고성능 인공지능 R1을 기존 10분의 1 이하 비용으로 공개하며, 글로벌 IT·AI 생태계에 충격을 안겼습니다.OpenAI, Google, Anthropic 등 기존 AI 리더들과 견줄 수 있는 성능을 저렴한 가격 및 효율성으로 제공하고, 30분의 1 수준의 API 가격까지 제시하며 ‘AI 대중화’의 신호탄이 됐죠.이로 인해 고성능 GPU 의존도와 인프라 투자 패러다임에 변화가 시작됐고, "AI 활용의 진입장벽이 혁신적으로 낮아졌다"는 평가가 나옵니다.주요 배경과 ..

"이 포스팅은 Coupang Partners 활동의 일환으로, 이에 따른 소정의 수수료를 제공받을 수 있습니다."2025 소프트웨어 기술 트렌드 – 개발·운영 혁신의 새 물결2025년 소프트웨어 업계는 생성형 AI, 클라우드 네이티브 설계, 노코드/로우코드, LLM 기반 SW3.0 등 전방위 혁신의 정점에 있습니다.아래에서는 국내외 IT 시장, 주요 리서치·기술 트렌드 리포트, 글로벌 엔지니어 커뮤니티에서 도출한 최신 기술과 실제 도입 배경, 영향력 있는 사례를 종합·정리합니다.1. 생성형 AI(GenAI)와 LLM 프로그래밍 시대소프트웨어 3.0 패러다임: 코드→신경망→자연어 프롬프트로 진화. 사용자는 LLM에 자연어로 명세(prompt)를 주면 곧바로 소프트웨어가 만들어지는 시대💡 사례: Githu..