π¨βπ¦βπ¦ν¨κ»νκ² λ βFDEλ³ΈλΆ βFrontierνμ βμκ°ν©λλ€ !
- FDE β(Forward Deployed Engineering) λ³ΈλΆμμλ βμ°μ
μμ βλ°μνλ λ€μν βλ¬Έμ ν΄κ²°μ μν΄ βAI κΈ°μ μ βκ°λ°νκ³ βμ°μ
νμ₯μ μ μ©νμ¬ βμ€μ§μ μΈ βκ°μΉλ₯Ό βλ§λ€μ΄ λ
λλ€.
- Frontierνμ κΈ°μ βλ° βμ¬μ
κ΄μ μμ λμ μ μ΄κ³ βμν©νΈκ° βν° βμ°μ
/μ μ‘°μ
λ¬Έμ λ₯Ό AI βκΈ°μ λ‘ ν΄κ²°νλ βλ―Έμ
μ βμνν©λλ€.
- μ°μ
νμ₯μ βλ°μ΄ν°λ₯Ό μ΄μ©ν΄ βAI βλ¬Έμ λ₯Ό μ μνκ³ μ΄λ₯Ό βνμ΄κ°λ κ³Όμ μ βν΅ν΄ End-to-end λ¨Έμ λ¬λ λΌμ΄ν μ¬μ΄ν΄μ κ²½νν©λλ€. λν λ§ν€λλ½μ€μ μΆμ λ λ¬Έμ ν΄κ²° κ²½νμ μμ°ννμ¬ λ¬Έμ ν΄κ²° νλ‘μΈμ€λ‘ 체κ³ννλ κ³Όμ μ ν¨κ» ν©λλ€.
π§π»βπ»μ΄λ° μΌμ ν¨κ» ν©λλ€.
- μ΅μ LLM(Large Language Model)μ On-Device NPU νκ²½μ νμ¬νκΈ° μν λͺ¨λΈ κ°λ°, λ³ν λ° κ²μ¦ μμ
μ μνν©λλ€.
- λ€μν ꡬ쑰μ LLM λͺ¨λΈμ λν κ°λ° μ
무 λ° μμν(Quantization) κΈ°μ μ μ°κ΅¬νκ³ μ€μ λͺ¨λΈμ μ μ©ν©λλ€.
- μλ‘μ΄ λͺ¨λΈ μ΅μ ν κΈ°λ²μ λν μ ν μ°κ΅¬λ₯Ό μννκ³ , λ
Όλ¬Έ μμ± λ° νΉν μΆμμ μ κ·Ή μ₯λ €ν©λλ€.
- PyTorch, HuggingFace, TFLite, ONNX, AIMET λ± λ€μν λ₯λ¬λ νλ μμν¬ λ° ν΄μ νμ©νμ¬ λͺ¨λΈ μ±λ₯μ μ λμ μΌλ‘ λΆμνκ³ κ°μ ν©λλ€.
- ν¨μ¨μ μΈ νμ
μ μν΄ ν λ΄μΈλΆμμ κΈ°μ 곡μ λ° μ½λ 리뷰, μ€ν κ²°κ³Όμ λν μμ λ‘μ΄ ν λ‘ μ μ κ·Ήμ μΌλ‘ μ§νν©λλ€.
π‘μ΄λ° λΆμ μ°Ύμ΅λλ€.
- 3λ
μ΄μμ ML/DS κ²½λ ₯ λλ κ·Έμ μ€νλ μλμ κ°μΆ λΆ
- λ₯λ¬λκ³Ό LLM λͺ¨λΈμ λν κΈ°λ³Έμ μΈ μ΄ν΄λ₯Ό κ°μ§κ³ μμΌλ©°, PyTorch, HuggingFace, TFLite, ONNX λ± λ₯λ¬λ κ°λ° λ° μΆλ‘ νλ μμν¬λ₯Ό λ€λ€λ³Έ κ²½νμ΄ μλ λΆ
- Post-Training Quantization λλ Quantization-Aware Trainingκ³Ό κ°μ μμν κΈ°μ μ μ μ©ν΄ λ³Έ κ²½νμ΄ μλ λΆ
π£μ΄λ° λΆμ΄λ©΄ λ μ’μ΅λλ€.
- LLMμ΄λ LVM λ± μμ±ν AI λͺ¨λΈμ λμμΌλ‘ μ΅μ ν λ° μμν(Post-Training Quantization λλ Quantization-Aware Training λ±) κΈ°μ μ μ μ©ν΄ λ³Έ κ²½νμ΄ μλ λΆ
- On-device NPU νκ²½μ λμμΌλ‘ Generative AI λͺ¨λΈ κ°λ° λ° μμν κ΄λ ¨ μ°κ΅¬ κ²½νμ΄ μλ λΆ
- Top-tier AI/ML λλ LLM μμν(Quantization) κ΄λ ¨ ννμ λ
Όλ¬Έμ κ²μ¬ν κ²½νμ΄ μλ λΆ
π μ±μ©μ μ°¨
- μλ₯μ μ
- μ¨λΌμΈ μ½λ©ν
μ€νΈ
- κΈ°μ μΈν°λ·°
- FitμΈν°λ·°
- ννμ‘°ν
πκΈ°ν μλ΄ μ¬ν
- μ±μ© νλ‘μΈμ€ μ§ν μ μΆκ° μΈν°λ·°λ κ³Όμ λ₯Ό μμ²λ릴 μ μμ΅λλ€.
- μ
μ¬ ν 3κ°μμ μμ΅ κΈ°κ° λ° μμ΅ νκ°κ° μ§νλλ©°, ν΄λΉ κΈ°κ° μ€ κΈμ¬λ 100% μ§κΈλ©λλ€.