동산 동산

BoostCourse

• 베이즈 통계학 맛보기

  BoostCourse 2023. 1. 11. 03:36

  From BoostCourse 임성빈 베이즈 정리는 다음과 같다. $Evidence = P(\theta) \times P(\mathcal{D}\mid\theta) + P(-\theta) \times P(\mathcal{D}\mid-\theta)$ 새로운 데이터가 들어왔을 때 앞서 계산한 사후확률을 사전확률로 사용하여 갱신된 사후확률을 계산할 수 있다.

  Read More
• Optimization

  BoostCourse 2023. 1. 11. 03:28

  From BoostCourse 최성준 (고려대학교 인공지능학과) 1. Gradient Descent Methods A. Stochastic gradient descent vs Mini-batch gradient descent vs Batch gradient descent - large-batch methods tend to converge to sharp minimizers - small-batch methods consistently converge to flat minimizers >> small-batch methods are better than large-batch methods B. Momentum - momentum accumulates the gradient of the past steps..

  Read More
• 선형결합

  BoostCourse 2023. 1. 7. 22:25

  From BoostCourse 주재걸 Given vectors $v_1, v_2, \cdot\cdot\cdot, v_p \in \mathbb{R}^n$ and given scalars $c_1, c_2, \cdot\cdot\cdot, c_p$, $c_1v_1 + \cdot\cdot\cdot + c_pv_p$ is called a linear combination of $v_1, \cdot\cdot\cdot, v_p$ with weights or coefficients $c_1, \cdot\cdot\cdot, c_p$. Given a set of vectors $v_1, \cdot\cdot\cdot, v_p \in \mathbb{R}^n$, Span ${v_1, \cdot\cdot\cdot, v_p}$ i..

  Read More
• 선형방정식과 선형시스템

  BoostCourse 2023. 1. 7. 22:05

  From BoostCourse 주재걸 선형 방정식(Linear Equation) $a_1x_1 + a_2x_2 + \cdot\cdot\cdot + a_nb_n = b$에 대해 $m$ = number of equations, $n$ = number of variables라고 하자. $i. n = m$일 경우 One solution exists. $Ax = b$ $x = A^{-1}b$ $ii. m n$일 경우 No solution exists.

  Read More
• 행렬은 뭔가요?

  BoostCourse 2023. 1. 7. 19:22

  From BoostCourse 임성빈 수학기호 쓰려고 LaTex까지 배워왔다. 1. 행렬은 벡터를 원소로 가지는 2차원 배열이다. 2. 벡터가 공간에서 한 점을 의미한다면 행렬은 여러 점들을 나타낸다. 3. 행렬은 벡터 공간에서 사용되는 연산자로 이해할 수 있다. >> $z = Ax$ (벡터 $x$ $\rightarrow$ 벡터 $z$) >> 행렬곱을 통해 벡터를 다른 공간으로 보낼 수 있다. >> 행렬곱을 통해 패턴을 추출하거나 데이터를 압축할 수 있다. 4. 행렬식이 0이 아니고 $n=m$인 경우 역행렬이 존재한다. >> $AA^{-1} = A^{-1}A = I$ np.linalg.inv(x) 5. 역행렬을 계산할 수 없다면 유사역행렬(pseudo-inverse) 또는 무어-펜로즈(Moore-Penr..

  Read More
• 벡터가 뭐에요?

  BoostCourse 2023. 1. 5. 02:41

  From BoostCourse 임성빈 교수님 나긋나긋한 목소리로 설명해주신다. 하지만 수업량에 비해 동영상 길이가 짧아 이 강의만으로는 벡터에 대해 이해하기 어려울 수도 있다고 생각된다. 다른 강의를 통해 보충할 필요가 있어 보인다. 어쨌든 시작해보자. 기본적인 내용은 이전에 Math Mart 황한순 선생님 동영상을 공부하며 적은 필기내용을 첨부하겠다. (동영상 링크) 해당 동영상은 편입 시험을 위한 선형대수 강의이다 ㅎㅎ 벡터의 노름 구하기 L1 노름: 각 성분의 절대값의 합 사용처: Robust 학습, Lasso 회귀 def l1_norm(x): x_norm = np.abs(x) x_norm = np.sum(x_norm) return x_norm L2 노름: 유클리드 거리 사용처: Laplace 근사..

  Read More
• Numpy

  BoostCourse 2023. 1. 5. 01:06

  오늘은 BoostCourse에서 Numpy에 대해 배웠다. From TEAMLAB director 최성철 Corsera에서 Andrew Ng의 ML을 수강할 때 배운 내용이기에 비교적 쉽게 들을 수 있었다. 앞으로 수학적인 강의가 여럿 남았는데, 기초 확률 및 통계는 내 주전공인 심리학 수업 필수 과정이고, 미적분학은 Khanacademy.com에서, 선형대수는 Math Mart 황한순 선생님 동영상에서 배웠기에 어렵지 않게 들을 수 있을 것 같다. Numpy는 Numerical Python의 약자라고 한다. Numpy의 장점은 일반 List에 비해 빠르고 메모리 효율적이라는 것이다. 1. numpy.array(object, dtype=None, *, copy=True, order='K', subok=F..

  Read More
• Exception/File/Log Handling

  BoostCourse 2023. 1. 2. 23:55

  Exception Handling try: 예외 발생 가능 코드 except : 예외 발생 시 대응하는 코드 예시(try ~ except) for i in range(10): try: print(10/i) except ZeroDivisionError: print("Not divided by 0") except Exception as e: print(e) 예시 2 (try ~ except ~ else) for i in range(10): try: result = 10 // i except ZeroDivisionError: print("Not divided by 0") else: print(result) 예시 3 (try ~ except ~ finally) for i in range(10): try: pri..

  Read More