milanm/AutoGrad-Engine
📦 오픈 소스 프로젝트milanm
외부 의존성 없이 600줄의 순수 C#으로 구현된 완전한 GPT 언어 모델입니다.
AutoGrad-Engine은 순수 C#으로 작성된 경량화된 무의존성 딥러닝 라이브러리입니다. 복잡한 계산 그래프에 대한 역전파를 처리할 수 있는 자동 미분 엔진을 통해 현대 AI의 기본 구성 요소를 구현합니다. 약 600줄의 간결한 코드 내에 전체 GPT 언어 모델 아키텍처를 포함하고 있어, 학습과 추론을 모두 수행할 수 있습니다. PyTorch나 TensorFlow 같은 외부 의존성을 배제함으로써 행렬 곱셈, 활성화 함수, 경사 하강법 등 LLM을 구동하는 원시 수학 연산을 명확히 노출합니다. 이 구현체는 트랜스포머 블록, 어텐션 메커니즘, 손실 함수가 어떻게 구성되는지 단계별로 보여주어 교육적 가치가 매우 높습니다. 고수준 AI 라이브러리 사용에서 벗어나 저수준 구현 원리를 배우고자 하는 .NET 개발자에게 이상적인 출발점입니다.
💡하이라이트
- ├─600줄의 순수 C# 코드 구현
- ├─외부 의존성 제로(Zero-dependency)
- └─GPT 학습 및 추론 기능 완비
🎯대상
- ├─C# 개발자
- ├─AI 연구원
- └─컴퓨터 공학 전공 학생