Junseo Parkin월요일 오후 9시컴퓨팅과 AI에 관하여여러분 중에서 주식을 하고 계시는 분도 있으실 것이고, 안 하고 계신분도 계실겁니다. 하고 계시는 분들 중에서도 많이 미국 주식을 하고 계실겁니다. 미국 주식을 하고 계시다면 현재 절대 모를수 없는 회사가 있죠? 바로 NVIDIA입니다.17 min read·3 days ago----
Junseo Parkin월요일 오후 9시딥 러닝 엔지니어 되기2024년, 요즘 딥러닝이 열풍입니다. 사실 요즘이라는 단어보단 “더더욱”이라는 말이 더 어울리겠네요. 이 열풍의 흐름에 따라서, 요즘 Deep Learning을 배워야 겠다! 라고 하시는 분들도 많아진 것 같습니다. (저는 이 흐름이 매우…14 min read·Mar 11, 2024--1--1
Junseo Parkin월요일 오후 9시Deep Learning Quantization (딥 러닝 양자화)양자화라는 단어를 처음 들으면, 뭔가 양자 컴퓨터가 떠오를 수 있습니다. 아니면 복잡하고 이해하기 어려운 개념이나 수식이 연상될지도 모릅니다. 처음에 저 역시 양자화를 접했을 때 그랬었거든요.12 min read·Dec 3, 2023----
Junseo Parkin월요일 오후 9시Triton Inference Server의 모델 파이프라인 오버헤드 줄이기기본적으로 CPU와 GPU는 연산하는 “위치”가 다릅니다. CPU는 메인보드 대략 중앙에 있는 거대한 쿨러 속에 숨어있고, GPU는 그 아래에 요즘따라 점점 거대해지고 있는 쇳덩어리가 바로 그것이죠. 그리고 그것을 연결해주는 것이 PCIe 버스가…13 min read·Sep 11, 2023----
Junseo Parkin월요일 오후 9시Rust로 Python의 함수를 가속화하기최근 모델 경량화와 파이프라인 최적화 작업을 진행하면서 느낀 점은 모델 자체의 처리 속도가 꽤나 빠르다는 것입니다. 전체 처리 시간을 분석해보면, 오히려 전처리와 후처리 단계에서 상당한 시간이 소비되는 것을 확인했습니다.17 min read·Jun 26, 2023----
Junseo Parkin월요일 오후 9시Triton Inference Server에서 TensorRT 모델을 Inference하기많은 엔지니어들이 모델을 개발 및 연구를 하며 많은 시간을 보낸다. 최종적으로 모델 성능을 서비스에 맞추고, 여러 고난 끝에 모델 개발을 완료했다. “근데 이제 뭐함?”, 모델 배포를 해야 한다!10 min read·Mar 6, 2023----
Junseo Parkin월요일 오후 9시ChatGPT란 무엇인가? (사용기 포함)나는 줄곧 “요즘 시대에 세기의 발명이란게 있는 것일까?” 라고 줄곧 생각해왔다. 전기를 휴대할 수 있는 배터리, 눈에 보이는 것을 담을 수 있는 카메라, 모든 세계인들의 지식이 있는 인터넷.. 등등 인간이 만들 수 있는 엄청난 발명품들은 21세기에…13 min read·Jan 16, 2023----
Junseo Park요즘 실용주의 프로그래머라는 책을 요즘 보고 있는데, 거기에서 나온 내용중에 일 년에 한개의 언어는 습득해보라는 것이 있었습니다.그 글을 보자마자 책을 덮고, 평소에 관심있던 Rust 튜토리얼을 바로 해보았는데, 제가 주로 사용하던 Python에는 없던 패턴 매칭이라는게 있더군요, 패턴 매칭을 처음 보고 신기한 느낌도 들고, 새로운 지식을 배웠다는 느낌도 들었습니다.1 min read·Jan 11, 2023----