ebson

LLM 기반 서비스가 보편화된 환경에서도 네트워크는 여전히 그 토대에 있습니다. 우리는 HTTP API를 호출하고, 스트리밍 응답을 받고, 지연 시간을 측정합니다. 그러나 이러한 현상이 어느 계층에서 발생하는 문제인지 명확히 설명하기는 쉽지 않습니다. OSI 7 Layer와 TCP/IP 4 Layer는 네트워크를 이해하기 위한 대표적인 모델입니다. 두 모델은 종종 비교되지만, 실제로는 목적과 출발점이 다릅니다. 이 글에서는 이론적 참조 모델과 실제 구현 모델의 차이를 정리하고, 소프트웨어 엔지니어가 어디까지 이해하면 좋을지 제 경험을 바탕으로 정리해보고자 합니다. OSI 7 Layer OSI 모델은 International Organization for Standardization에서 정의한 참조 모델..

LLM 기반 서비스가 빠르게 확산되고 있습니다. 모델의 파라미터 수, 추론 최적화, 프롬프트 엔지니어링이 주요 화두가 되었습니다. 그러나 한 걸음 물러나 생각해보면, 우리가 사용하는 모든 AI 서비스는 결국 네트워크 위에서 동작합니다. LLM API를 호출하는 행위 역시 하나의 HTTP 요청입니다. 모델의 성능이 아무리 뛰어나더라도 요청과 응답이 오가는 경로에서 병목이 발생한다면 사용자가 체감하는 속도는 달라집니다. CDN을 경유하고, Edge 노드를 거치며, API Gateway를 통과하는 구조에서 발생하는 지연은 모델 자체의 문제와 구분되어야 합니다. 이러한 구분은 네트워크 계층에 대한 이해 없이 이루어지기 어렵습니다. 이 글에서는 브라우저에 www.google.com을 입력했을 때 어떤 일이 발생하..