본문 바로가기

파이썬 & 머신러닝15

구글 제미니(Gemini) 공개, OpenAI의 ChatGPT 대항마 OpenAI가 ChatGPT, DALL-E 등으로 최근 인공지능 시대를 개척해나가고 있는데, 구글의 자회사인 딥마인드(DeepMind)에서도 Gemini라는 것을 공개했습니다. (알파고를 만들었던 그 딥마인드 맞습니다.) 구글은 지난번 바드 (Bard)라는 챗봇을 공개했었는데, 이번 Gemini에서는 단순히 텍스트뿐 아니라 사진과 동영상까지 이해할 수 있는 챗봇이라고 합니다. 오픈에이아이의 ChatGPT라는 챗봇 또한, 사진이나 PDF를 이해할 수 있도록 확장해나가고 있습니다. 프로 버전을 사용하면 사진이나 pdf를 업로드하고, 이를 바탕으로 대화를 진행할 수 있습니다. 그리고 오픈에이아이가 가지고 있는 이미지 생성 모델 DALL-E라는 것 또한 함께 융합해서 대화를 통해 그림을 만들고 점점 개선해나갈 .. 2023. 12. 10.
윈도우 파이토치 쿠다 버전 안 맞는 오류 해결법 AssertionError : torch not compiled with cuda enabled 최근 Windows 환경에서 Pytorch를 GPU버전으로 설치하려는데, torch는 실행이 잘 되는데 GPU와의 연결이 잘 안되는 경우가 생겼다. 에러 메시지는 다음과 같다. (리눅스에서도 뜨는 경우를 봤던 것 같다) AssertionError : torch not compiled with cuda enabled 참고로 pytorch 설치는 다음과 같이 진행하였다. conda install pytorch torchvision torchaudio pytorch-cuda=11.7 -c pytorch -c nvidia 이 중 한 깃헙 이슈에서 발견한 좋은 해결책을 공유한다. pip uninstall torch pip cache purge pip install torch -f https://download.p.. 2023. 11. 3.
이제 공식 ChatGPT에서도 PDF를 읽을 수 있음 매우 최근 ChatGPT에서 이제 PDF와 같은 파일도 읽을 수가 있게 되었다. 아마 PDF 말고 다른 여러 파일들도 되는 것 같다. 아마 CSV와 같은 데이터 파일을 가지고 분석도 할 수 있다고 들은 것 같다. 설정에서 Advanced data analysis를 켜면, file upload를 통한 채팅도 이제 가능하다. 원래 ChatPDF와 같은 툴들을 이용해서 봤었는데, 얘네도 몇 번 쓰다보면 돈을 내라고 해서.... 이미 공식 챗지피티는 프리미엄을 쓰고 있어서 이제 얘를 사용하면 될 것 같다. 다만, ChatPDF가 조금 더 오랫동안 사용이 되었다보니 답변의 만족도는 훨씬 높은 것 같긴하다. 공식 ChatGPT도 조금 더 가지고 놀다 보면 익숙해질 것 같다. 참고로, 엣지 브라우저를 이용해서 PDF.. 2023. 10. 30.
윈도우 10 화면 캡처 렉 걸릴 때 윈도우 10을 쓰고 있는데, 윈도우 + W를 눌러서 주로 캡처를 한다. 전체 화면 캡처를 눌러도 일부분만 캡쳐하는 것도 가능하다. 그런데 저 전체 화면 캡처를 엄청 많이 하다보면 점차 저 윈도우 + W를 눌렀을 때 저게 느리게 뜨기도 하고, 화면 캡처가 안되기도 한다. 컴퓨터를 껐다 켜면 렉도 안걸리고 빠릿빠릿하게 되는데, 약간 저 캡처가 점점 쌓이는지, 하면 할수록 점점 느려지고 나중에는 그냥 컴퓨터가 느려지는 경우도 있다. (물론 나는 컴퓨터를 막 일주일씩 안 끄기도 하고, 화면 캡처를 엄청 자주한다.) 현상 그래서 작업 관리자를 열어서 어떤 것이 문제인지 보게되면, 다음과 같이 서비스 호스트: State Repository Service가 갑자기 엄청 CPU를 많이 쓰고 CPU가 100%를 찍는 것.. 2023. 8. 10.
리눅스 그놈(gnome) 재시작 - Authentication required 창 없애기 전 리눅스 서버를 사용하고 있는데, 부팅하고 나면 몇 가지 창들이 뜹니다. 웬만하면 비밀번호를 넣어주거나 Cancel을 누르면 해결되긴 하는데, 가끔 Authentication Required라는 창이 왼쪽 위에 뜨고 안 없어지는 경우가 있습니다. 게다가 클릭을 해도 이 창이 클릭되는 것이 아니라 이 창 너머에 있는 버튼들이 눌리는데, 이 창 때문에 보이지도 않고.. 매우 거슬리게 됩니다. 시간이 해결해주지도 않는데, 매우 간단한 방법으로 이 창을 끌 수가 있습니다. GNOME(그놈 혹은 지놈...)은 리눅스에서의 데스크탑 환경을 제어하고 보여주는 소프트웨어입니다. 위 창을 없애기 위해서 gnome을 단순히 재시작해주면 되는데요 (제 경험 상 지금까지 문제가 바로 해결되었습니다.) 1. Alt 버튼과 F.. 2022. 3. 17.
[머신러닝 응용] Convolutional layer로 곱을 표현하기 최근 인공 지능이 급부상함에 따라 함께 뜬 유명한 키워드는 CNN일 것입니다. 아마 인공 지능을 조금이라도 공부해보셨다면 CNN을 들어봤을텐데, 정확하게 이해하지 못하고 사용하는 경우도 많을 것이라고 생각합니다. 특히, 점점 인공 지능에 대한 정확한 이해 없이 누구나 쉽고 간편하게 인공 지능 모델을 만들고 테스트할 수 있도록 여러 툴들이 개발되고 간소화되고 있기도 합니다. 뉴럴 네트워크에는 그 형태나 사용하는 테크닉에 따라 Convolutional neural network, Recurrent neural network, Graph neural network 등 다양한 이름들이 있는데 사실 정확하게 구분이 되지 않않을때가 많습니다. 어찌 되었건 그 중 가장 널리 알려지고 주로 사용되는 이름이자 분류는 C.. 2022. 1. 14.
[Pytorch] 진짜 커스텀 데이터셋 만들기, 몇 가지 팁 Pytorch 개발자들이 이미 데이터셋, 데이터로더 클래스를 여러 개 만들어 두었다. 데어터셋의 경우 ImageFolder, DatasetFolder 와 같이 내 폴더 안에 있는 데이터들을 돌게 해주는 애들과 CIFAR10, ImageNet 등 유명한 베이스라인 데이터셋을 다운로드부터 train/test 스플릿까지 손쉽게 해주는 클래스 들이 있다. 이번에는 이런 것보다 조금 더 low-level로 직접 데이터셋 클래스를 만들어서 이를 데이터로더에 집어 넣는 것까지 해보겠다. 핵심은 바로 위 사진에 있는 torch.utils.data.Dataset 이라는 class를 상속받는 자식 클래스를 만들 것이다. 이 자식 클래스가 필요로 하는 메소드는 3가지이며, 다음과 같다. (언더바가 두 개임) 설명을 잘 모르.. 2021. 10. 4.
[CUDA] GPU 메모리는 할당되어 있는데 프로세스가 안 나올때 사진은 없긴 한데 또 생기면 캡쳐해서 올리겠습니다. nvidia-smi 는 GPU의 사용량을 모니터링하기 위해 사용합니다. 여기에는 GPU가 몇 개인지 어떤 GPU인지, 메모리는 얼마나 사용하고 있는지, 파워나 온도 등 여러 정보가 나옵니다. 추가로 watch -n 1 nvidia-smi 를 터미널에 치면 1초마다 업데이트 됩니다. nvidia-smi를 1초마다 눌러라 라는 명령이라서요. 그런데 가끔 코드를 돌리다가 Ctrl + C를 통해서 코드를 Terminate 시킬 때 어떻게 잘못하게 되면 nvidia-smi의 위쪽 부분에서 분명 메모리는 할당되어 있는데 아래에 Process에는 아무것도 없는 상황이 생길 때가 있습니다. 이 때에는 실제로 다시 코드를 돌려보면 GPU Out of Memory가 뜨게.. 2021. 5. 4.
최근 머신 러닝 핫한 연구 분야 (2/3) 두 번째 글입니다. 이번에는 Meta learning (메타 러닝, 메타 학습), Semi-Supervised, Self-Supervised Learning 그리고 Continual Learning 에 대해서 소개하겠습니다. Generative Model (생성 모델) Reinforcement Learning (강화 학습) Bayesian Deep Learning (베이지안 딥러닝) Meta-Learning (메타 러닝) Semi-Supervised, Self-Supervised Learning (SSL) Continual Learning (지속 가능한 학습) Interpretable Neural Network (설명 가능한 뉴럴 네트워크) Federated Learning (연합 학습) 그 외 # Ne.. 2020. 12. 20.
최근 머신 러닝 핫한 연구 분야 (1/3) 최근 유명한, 핫한 머신 러닝 연구 분야에 대해서 아주아주 짤막하게 정리해보고 얘기를 좀 해보겠습니다. 저 또한 모든 분야에 대해서 다 잘 아는 것은 아니고 몇 개는 잘 모릅니다. 그냥 이런 게 있다 정도로만 보시고 정확하고 자세한 설명은 따로 찾아보시는 것을 추천드립니다. 얘기가 조금 긴 것 같아 포스트를 나눠 놓겠습니다. Generative Model (생성 모델) Reinforcement Learning (강화 학습) Bayesian Deep Learning (베이지안 딥러닝) Meta-Learning (메타 러닝) Semi-Supervised, Self-Supervised Learning (SSL) Continual Learning (지속 가능한 학습) Interpretable Neural Net.. 2020. 12. 14.