전체 글(121)
-
KHF 2024 미리보기 : NIPA 부스를 중심으로
*본 포스팅은 투자 권유가 아닙니다! 이번 주 수요일(2024.10.02) 부터 3일간 코엑스에서 병원설비 박람회 (KHF - https://khospital.org/) KHF - KHF 2024국내 최대 규모 헬스테크 박람회! KHF 2024 10월 2일-4일, 코엑스 개최! 병원정보시스템, 의료 AI, 디지털 치료제, 의료기기, 의료설비 등 이 모든 것을 KHF에서 확인하세요.khospital.org가 열린다. 본 포스팅에서는 NIPA 부스에서 비즈니스 모델을 잘 갖추고 있는 의료 인공지능 회사들을 미리 정리하여, 의료 AI에 관심있는 사람들의 KHF 관람을 더욱 의미 있게 하고자 한다. 먼저, B2B (혹은 B2H) 의료 인공지능 시장은 SaMD 형태의 진단 및 예후예측 솔루션을 판매하는 소프트웨어..
2024.09.30 -
의료 LLM 해커톤 후기 : 제대로 움직이는 개발팀이 되기 위한 조건
지난 주말에 우리 동아리(MD Winners)와 서울대병원이 함께하는 의료 LLM 개발 해커톤에 참여하였다. 2월에 참여했던 의료 AR 해커톤(https://cascade.tistory.com/39 - 인생 첫 해커톤) 때는 제대로 개발을 할 줄도 모르는 상태에서 참여해서 기획 위주로 했었는데, 이번에는 개발 프로세스의 일부를 담당하게 되어 지난번보다 조금 더 "해커톤다운" 경험을 할 수 있었다. 서론으로 우리 동아리인 MD Winners 소개를 조금 하자면, 서울대 의과대학 소속 경제경영 동아리 (사실상 창업동아리!) 로, 의료 분야에서 다양한 혁신을 하고자 하는 친구들이 모여 있고, 다들 하나같이 열정이 넘친다. 의대 들어와서 가장 잘한 것 중 하나가 이 동아리에 들어온 것이라고 생각할 정도로 내가..
2024.09.17 -
FixMatch의 트레이닝 디테일을 살펴보자
FixMatch (Sohn et al, 2020)는 적은 수의 labeled data와 많은 수의 unlabeled data가 섞인 데이터셋에서 학습을 할 때 pseudo-labeling 기반으로 unlabeled data를 utilize하는 반지도학습(semi-supervised learning) 기법이다. Fixmatch는 Mixup이라는 다소 복잡(?)한 unlabeled data utilization 기법을 가진 MixMatch(2019)에 비해 단순하면서도 보편적인 아이디어를 제공하여 많은 반지도학습 상황에 응용되어 왔다. 아이디어를 간단하게 소개하면, labeled data는 일반적인 supervised learning처럼 이용하고, unlabeled data는 모델의 confidence가 특..
2024.08.20 -
L2 regularization과 weight decay
보편 근사 정리 (Universal Approximation Theorem)에 따르면, 파라미터 수가 충분한 인공신경망은 임의의 연속적인 다변수함수를 원하는 정확도로 근사할 수 있다. 즉, 파라미터 수가 충분하다면, 이론상 train set의 accuracy를 100%으로 만드는 파라미터 조합은 반드시 존재한다. https://en.wikipedia.org/wiki/Universal_approximation_theorem Universal approximation theorem - WikipediaFrom Wikipedia, the free encyclopedia Feed-forward neural network with a 1 hidden layer can approximate continuous fu..
2024.08.19 -
유용한 라이브러리 시각화 툴 소개 (Pyreverse)
특정 라이브러리를 처음 다운로드 했을 때, 코드가 몇백 줄이 넘어가면 어디서부터 보아야 할지 막막한 경우가 많다. 이 경우 사용하기 좋은 시각화 툴을 하나 소개하고자 한다. Pyreverse Pylint는 Python 코드를 분석하고 코드 품질을 향상시키기 위한 다양한 기능을 제공하는 정적 코드 분석 도구이다. Pyline 안에 포함된 Pyreverse라는 도구는 Python 코드의 구조를 분석하고 이를 시각적으로 표현해주는 기능을 제공한다. Pyreverse는 주로 UML 다이어그램을 통해 클래스와 모듈의 관계를 시각화하는 데 좋다. 설치 및 환경설정Pyreverse를 설치하기 위해서는 Graphviz가 있어야 한다. 아래와 같이 설치해 주자.Windowshttps://graphviz.org/downl..
2024.08.19 -
OpenAI Guided-diffusion 코드분석 Part 1: Gaussian Diffusion 유틸
OpenAI에서 제공하는 Guided-diffusion repository(https://github.com/openai/guided-diffusion)는 Ho et al.의 DDPM 모델부터 DDIM 샘플링, 그리고 classifier guidance까지 줄 수 있는 다양한 디퓨전 유틸리티가 들어 있다. GitHub - openai/guided-diffusionContribute to openai/guided-diffusion development by creating an account on GitHub.github.com Classifier guidance는 지난 포스팅 (https://cascade.tistory.com/120)에서 설명했으니 본 포스팅에서는 OpenAI guided-diffusi..
2024.08.18