우니Blog

https://www.youtube.com/watch?v=6O20S3-o6-Q [Metting Warren Buffet - 워렌 버핏 만남]When I went back in 1959 to wind up my father's law practice, mutual friends introduced us.1959년에 아버지의 법률 사무소를 정리하러 돌아갔을 때, 상호 친구들이 우리를 소개해 주었습니다.My father was a sole practitioner, and somebody had to go sit in his chair and wind up his practice.내 아버지는 개인 개업의였고, 누군가가 그의 자리에 앉아 그의 업무를 정리해야 했다.It was during that period t..

카테고리 없음 2024. 9. 11. 21:36

https://youtu.be/fdberGATM_8[The blueprint of Berkshire Hathaway - 버크셔 해서웨이의 청사진] Well, he'd made so much money for so long, doing what he'd been taught by Ben Graham, which is to buy these very cheap stocks,  그는 벤 그레이엄에게 배운 대로 매우 저렴한 주식을 매수하는 방식으로 오랫동안 많은 돈을 벌었습니다.  and if they were cheap enough, he didn't care it was a lousy company and a lousy management. 주식이 충분히 저렴하다면 회사가 형편없고 경영진이 좋지 않아도 상관..

카테고리 없음 2024. 9. 10. 21:53

Robertatransformers에서 지원하는 Roberta를 기반으로 Korquad 데이터를 학습 중 입니다. 한국어를 학습하기 위해서 Multilingual를 지원하는 XLM-RoBERTa를 사용하도록 소스를 수정했습니다. 소스를 수정하고 run_squad.py를 수행하니 다음과 같은 에러가 발생했습니다. /pytorch/aten/src/THC/THCTensorIndex.cu:361: void indexSelectLargeIndex(TensorInfo, TensorInfo, TensorInfo, int, int, IndexType, IndexType, long) [with T = float, IndexType = unsigned int, DstDim = 2, SrcDim = 2, IdxDim = -..

Error 2020. 2. 19. 21:13

BERT논문을 직역 및 의역으로 작성한 내용입니다. A Additional Details for BERT 는 다음 컨텐츠를 이용바랍니다. https://ynebula.tistory.com/60 C Additional Ablation Studies C.1 Effect of Number of Training Steps Figure 5은 checkpoint를 fine-tuning 후 MNLI Dev accuracy를 나타냅니다. checkpoint는 k step번 pre-train되었습니다. 이것은 다음과 같은 의문이 생깁니다. 1. Question BERT는 높은 fine-tunning accuracy를 얻기 위해 pre-training으로 그렇게 큰 양(128,000 words/batch * 1,000,0..

논문분석 2020. 2. 11. 20:48

BERT논문을 직역 및 의역으로 작성한 내용입니다. 5 Ablation Studies는 다음 컨텐츠를 이용바랍니다. https://ynebula.tistory.com/59 Appendix for "BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding" 세개의 섹션으로 구성하였습니다. Appendix A. BERT 추가 구현법을 작성함. Appendix B. 우리의 경험. Appendix C. ablation 연구 : Training Steps의 Number의 효과. : 여러 Masking Procedures 의 Ablation A Additional Details for BERT A.1 Illustration of..

논문분석 2020. 2. 11. 20:32

BERT논문을 직역 및 의역으로 작성한 내용입니다. 4 Experiments는 다음 컨텐츠를 이용바랍니다. https://ynebula.tistory.com/58 5 Ablation Studies 이번 섹션에서 우리는 상대적인 중요성을 좀 더 이해하기 위해서 BERT를 다양한 측면에서 ablation experiments를 수행하였습니다. 추가적인 ablation 연구는 부록 C에서 확인할 수 있습니다. 5.1 Effect of Pre-training Tasks 우리는 같은 pre-training data와 fine-tuning scheme 그리고 hyperparamters를 사용하는 두 pre-training objectives를 평가하여 DBER의 deep bidirectionality 중요성을 설명..

Artificial Intelligence 2020. 2. 1. 13:08

BERT논문을 직역 및 의역으로 작성한 내용입니다. 3 BERT는 다음 컨텐츠를 이용바랍니다. https://ynebula.tistory.com/55 BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding 논문 한글 번역 - 3.1-3.2 BERT논문을 직역 및 의역으로 작성한 내용입니다. 3.1 Pre-training BERT Peter et al(2018a), Radford et al(2018)과 다르게, 우리는 BERT를 pre-train하기 위해 traditional left-to-right or right-to-left lan.. ynebula.tistory.com 4 Experiments 이번 Sectio..

Artificial Intelligence 2020. 1. 30. 22:00

BERT논문을 직역 및 의역으로 작성한 내용입니다. 3 BERT는 다음 컨텐츠를 이용바랍니다. https://ynebula.tistory.com/55 BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding 논문 한글 번역 - 3 BERT논문을 직역 및 의역으로 작성한 내용입니다. 3. BERT 우리는 BERT와 자세한 구현법을 이 Section에서 소개합니다. 두 개의 절차가 있습니다(pre-training과 fine-tuning). Pre-training동안, 여러 pre-train.. ynebula.tistory.com 3.1 Pre-training BERT Peter et al(2018a), Radford et..

카테고리 없음 2020. 1. 29. 21:27