블로그 이미지
Peter Note
Web & LLM FullStacker, Application Architecter, KnowHow Dispenser and Bike Rider

Publication

Category

Recent Post

'[LLM FullStacker]/Agentic AI'에 해당되는 글 2

  1. 2025.06.29 [Agentic AI] 에이젠틱 AI 란 무엇인가?
  2. 2025.01.21 MS AutoGen 개념 정리
2025. 6. 29. 14:14 [LLM FullStacker]/Agentic AI

Agentic AI 란?

"에이전트들이 협업하며, 자율적으로 해동 계획을 수립하고, 목표를 달성하는 시스템 전체 또는 프레임워크이다". 보통 AI Agent 라는 부르는 것은 "특정 목표를 수행하는 개별 인공지능 객체"를 의미한다. 

 

Agentic AI 에서 중요한 것은 3가지 이다. 

- 자율적 자기주도적 사고

- 멀티에이전트 협업 능력

- 목표 달성 중심 시스템(프레임워크)

 

AI Engineering 롤을 두개로 나눈다면 AI Solution Engineer와 AI Data Engineer로 나눠 보았을 때, AI Solution Engineer가 Agentic AI 시스템을 구축하는 것이고, AI Data Engineer가 전통적인 ML 및 비즈니스 핵심 알고리즘을 구현하는 부분이라 본다. 

 

그렇다면 AI Solution Engineering의 파트를 구체화 한다면 다음의 7 Layers로 나누어 볼 수 있겠다. 

https://www.linkedin.com/posts/digitalprocessarchitect_the-7-layers-you-need-to-build-an-ai-agent-activity-7343997796842139650-43GX/

 

1. Experience Layer

Where humans interact with the agent - through chatbots, dashboards, or voice assistants. 

It’s the UI layer of agent interaction.

 

2. Discovery Layer

This is how the agent finds and injects relevant knowledge 

- using RAG, vector databases, and memory recall techniques.

 

3. Agent Composition Layer

Defines the internal structure of your agent. 

Combines modular sub-agents into complex, goal-driven workflows.

 

4. Reasoning & Planning Layer

The thinking brain of the agent. It plans actions, reflects, sets priorities, 

and uses strategies like CoT or ReAct.

 

5. Tool & API Layer

Connects reasoning to real-world execution. 

It handles file systems, APIs, shell commands, and function calls.

 

6. Memory & Feedback Layer

Where the agent learns and adapts. 

Stores past interactions, builds self-awareness, and uses memory to improve.

 

7. Infrastructure Layer

The backend engine scales agents, manages models, deploys pipelines, 

and secures the whole system.

 

인프라스트럭처의 LLMOps 에서 부터 A2A 또는 LangGraph와 같은 Framework을 활용하여 Multi Agent를 구현하고, UI를 제공하는 모든 부분을 Agentic AI Framework 또는 System 이라 말할 수 있다. 이부분을 AI Solution Engineer가 해야할 영역으로 본다. 

 

Agentic AI Solution 은 "자기 주도적이면 자율적으로 멀티 에이전트가 협업하여 목표를 달성하는" 것을 목적으로 한다. 여기서 해당 솔루션을 비즈니스에 적용하기 위하여 최근 이야기 되고 있는 Context Engineering 관점의 접근도 필요하다. 

 

Context Engineering 이란?

“Context Engineering”은 특히 대규모 언어 모델(LLM) 시대에 들어서면서 주목받는 개념으로, AI가 정확하게 이해하고 응답할 수 있도록 입력(프롬프트)의 맥락을 설계·조정하는 기술 또는 실천적 전략을 의미한다. 즉 AI Solution Engineer는 Agentic AI System 구축시 (AI Data Engineer가) Context Engineering을 유연하게 적용할 수 있는 시스템을 지향해야 한다. 

 

Context Engineering = Prompting + Memory + Retrieval + Role Control + History 관리의 종합 아키텍처 설계 기술
프롬프트의 시대는 저물고 있습니다.
이제는 더욱 중요한 '컨텍스트'를 설계해야 할 때입니다.

해외 AI 업계에서는 최근 '컨텍스트 엔지니어링'이라는 개념이 주목받고 있습니다. 
단순히 질문(프롬프트)을 잘 던지는 것만으로는 부족하다는 뜻입니다. 
중요한 건, AI가 제대로 이해하고 일할 수 있도록 '맥락'을 설계하는 일입니다.

AI는 신입사원과 같습니다. 업무 지시만으로는 부족합니다. 
조직의 문화, 일하는 방식, 기대 기준 등을 함께 알려줘야 제대로 일합니다.

'맥락'은 단순한 배경정보가 아닙니다. 
우리가 평소 사용하는 리포트 포맷, 문서 스타일, 브랜드의 말투 등이 곧 조직의 언어이자 컨텍스트이죠. 
결국 AI에게 일을 시키려면, 우리가 어떻게 일하는지를 먼저 정의해야 합니다.

AI를 잘 쓴다는 건, 우리 조직의 이상적인 일처리 기준을 정의하고, 그것을 AI에게 정확히 전달하는 것입니다.
이제는 ‘프롬프트’가 아닌 ‘컨텍스트’를 설계하는 시대입니다. 
LLM을 도구 이상으로 활용하려면, 그 배경에 숨어 있는 이 섬세한 맥락 설계의 기술과 감각을 이해하여 사용한다.

 

GPT

 

 

출처

- 7 Layers of Agentic AI : https://www.linkedin.com/posts/digitalprocessarchitect_the-7-layers-you-need-to-build-an-ai-agent-activity-7343997796842139650-43GX/

 

The 7 Layers You Need To Build An AI Agent From Scratch | Vaibhav Aggarwal

The 7 Layers You Need To Build An AI Agent From Scratch 1. Experience Layer Where humans interact with the agent - through chatbots, dashboards, or voice assistants. It’s the UI layer of agent interaction. 2. Discovery Layer This is how the agent finds a

www.linkedin.com

- context engineering: https://simonwillison.net/2025/Jun/27/context-engineering/

 

Context engineering

The term context engineering has recently started to gain traction as a better alternative to prompt engineering. I like it. I think this one may have sticking power. Here's an …

simonwillison.net

 

'[LLM FullStacker] > Agentic AI' 카테고리의 다른 글

MS AutoGen 개념 정리  (0) 2025.01.21
posted by Peter Note
2025. 1. 21. 17:00 [LLM FullStacker]/Agentic AI

Agent

 

[1] Agent 개념

- AI agents typically use language models as part of their software stack to interpret messages, perform reasoning, and execute actions.

- Each agent is a self-contained unit that can be developed, tested, and deployed independently.

 

[2] Multi Agent 특징

- Run within the same process or on the same machine

- Operate across different machines or organizational boundaries

- Be implemented in diverse programming languages and make use of different AI models or instructions

- Work together towards a shared goal, coordinating their actions through messaging

 

[3] Agent 실행 환경

the framework provides a runtime environment, which facilitates communication between agents, manages their identities and lifecycles, and enforce security and privacy boundaries.

 

Standalone Agent Runtime

  - single process application

  - all agents are implemented in the same language

  - running in the same process.

Agent는 runtime 동안 메세지를 통해 통신을 하고, 런타임은 Agent의 LifeCycle을 관리한다. 

 

Distrubuted Agent Runtime

- multi process applications

- Agents are implemented in different programming languages

- running on different machines

 

분산환경은 host servicer와 multiple workers를 갖는다. 

- host servicer는 agent 사이의 통신과 연결상태를 관리한다.

- worker는 agent를 구동하고 host servicer와 gateway를 통해 통신한다. 

 

 

[4] 애플리케이션 스택

AutoGen core는 다양한 multi-agent application 개발할 때 사용된다. 

 

 

[5] Agent 식별 방법 & 라이프 사이클 관리

Agent 런타임은 에이젼트 identities와 lifecyles을 관리한다. 

 

- Agent ID = Agent Type + Agent Key(instance)

 

런타임에서 Agent가 없으면 생성하고, 메세지로 agent type & key를 전달한다.

 

 

[6] Topic & Subscription

message를 broadcast할 때 방법을 설명한다. 

 

- Topic : pubishing messages with Topic Type, Topic Source

- Subscription : topic 과 agentID와 맵팽한다. 런타임 환경에 맵핑을 만들고 삭제할 수 있다. 

 

Type-based subscription

Topic Type -> Agent Type 전파

- Single Tenant & Single Topic

 

- Single Tenant & Multi Topics

 

- Multi Tenant

in single tenant, the topic source is "default". for multi tenant, it become data-dependent.

 

 

<참조>

https://microsoft.github.io/autogen/stable/user-guide/core-user-guide/core-concepts/agent-and-multi-agent-application.html

 

Agent and Multi-Agent Applications — AutoGen

Agent and Multi-Agent Applications An agent is a software entity that communicates via messages, maintains its own state, and performs actions in response to received messages or changes in its state. These actions may modify the agent’s state and produc

microsoft.github.io

https://microsoft.github.io/autogen/stable/user-guide/core-user-guide/core-concepts/architecture.html

 

Agent Runtime Environments — AutoGen

Agent Runtime Environments At the foundation level, the framework provides a runtime environment, which facilitates communication between agents, manages their identities and lifecycles, and enforce security and privacy boundaries. It supports two types of

microsoft.github.io

https://microsoft.github.io/autogen/stable/user-guide/core-user-guide/core-concepts/application-stack.html

 

Application Stack — AutoGen

Application Stack AutoGen core is designed to be an unopinionated framework that can be used to build a wide variety of multi-agent applications. It is not tied to any specific agent abstraction or multi-agent pattern. The following diagram shows the appli

microsoft.github.io

https://microsoft.github.io/autogen/stable/user-guide/core-user-guide/core-concepts/topic-and-subscription.html

 

Topic and Subscription — AutoGen

Topic and Subscription There are two ways for runtime to deliver messages, direct messaging or broadcast. Direct messaging is one to one: the sender must provide the recipient’s agent ID. On the other hand, broadcast is one to many and the sender does no

microsoft.github.io

 

'[LLM FullStacker] > Agentic AI' 카테고리의 다른 글

[Agentic AI] 에이젠틱 AI 란 무엇인가?  (0) 2025.06.29
posted by Peter Note
prev 1 next