본문 바로가기

Math

(3)
도함수 | Derivative 신경망(Neural Network)을 구성하기 전에 인풋값의 J(Cost Function)을 최소(최적) 비용으로 정리하기 위해 w, b 필요함 w, b의 값을 경사하강법으로 찾게됨 ->이때 도함수 개념 필요 도함수를 알게 되면 신경망 구성시 경사하강법을 직관적으로 사용 가능하다는 이점 있음 @도함수(Derivative) -=어떤 함수의 기울기(slope) -변수 a를 조금만 변화시켰을 때, 함수 f(a)가 얼만큼 변하는지 측정하는 것 -Notation f(a) = 3a는 직선 ->미분계수는 모든 곳에서 3으로 같음 @곡선일 때의 미분계수 -곡선 위의 다른 위치마다 높이/밑변의 비율이 모두 다름 -선의 기울기가 다르기 때문에 위치가 달라지면 도함수 값이 달라짐 -함수의 기울기는 함수의 위치에 따라 다른 ..
선형결합과 생성 | Linear Combinations and span @선형결합(Linear Combinations) -벡터들을 스칼라배와 벡터 덧셈을 통해 조합해 새로운 벡터를 얻는 연산 -벡터 공간에서의 가장 기본적인 연산 @그냥 결합이 아니라 '선형'결합인 이유 -벡터끼리 곱하고 있는 게 아니라 임의의 수로 상수배를 하고 있기 때문 -R^2위의 모든 벡터를 벡터a와 벡터b의 선형결합으로 나타낼 수 있음 -영벡터 자신의 선형결합으로 얻을 수 있는 유일한 벡터는 영벡터 자신 뿐 -벡터 두 개의 생성이 R^2가 된다면 두 벡터는 같은 직선 상에 있으면 안됨 참고) https://youtu.be/Qm_OS-8COwU
벡터 | Vector @벡터 -크기와 방향을 동시에 나타냄 ​-속도는 벡터 ​ ​ @벡터 표현 일반적으로 2차원이라면 숫자 2개로 벡터 표현 각 차원에 대해 얼마만큼 움직였는지. ​ ​ @실좌표공간(real coordinate space) -2차원 실수좌표공간은 실수값을 가진 모든 2-튜플을 말함 (all possible real-valued 2-tuples) ​ ​ @튜플 -순서가 정해진 숫자들의 리스트 -2-튜플은 숫자 2개의 순서리스트이자 실수 2개의 실수리스트가 됨 @벡터의 덧셈, 곱셈 -같은 양수를 곱해줄 경우 방향은 변하지 않고 크기만 변함 -음수를 곱해줄 경우 방향이 반대로 변하고 크기도 변함 ​ -스칼라의 곱은 벡터를 확대함 @단위 벡터(Unit Vector) -선형대수학에서 단위 벡터는 길이가 1인 벡터를 뜻..

Tiny Star