Дисклеймер: это пост из серии Public Learning. Здесь я записываю собственные мысли и результаты собственного изучения темы AI. Если будет желание поддержать (морально), дать совет или покритиковать - буду благодарен.
Первый из постов с конспектом книги Дайзенрот М.П., Фейзал А.А., Он Ч.С. «Математика в машинном обучении».
Есть 4 столпа машинного обучения. Они в свою очередь базируются на определенных дисциплинах математики.
Начинаем с векторного анализка и линейной алгебры.
Основным объектов векторного анализа является (неожиданно) вектор. В общем смысле вектор - это штука, которая при сложении двух векторов дает вектор и при умножении на скаляр (проще говоря обычное число) тоже дает вектор. Примерами векторов могут быть геометрические вектора, кортежи числе или многочлены.
Про линейную алгебру - есть целый класс задач, которые можно решить с помощью линейных уравнений. Линейная алгебра предоставляет инструментарий для их решения. Основными понятиями линейной алгебры являются вектор и матрица. Систему линейных уравнений можно представить в виде матриц:
Матрица А (m, n) является кортежем размера m * n состоящего из чисел a (с индексами i, j) упорядоченным в соответствии с прямоугольной структуры m строк и n столбцов.
Сумма матриц - это их покомпонентная сумма. При этом размеры матриц должны совпадать.
Произведение матриц A размером m x n и B размером n x k является матрица размером m x k, где каждый элемент матрицы является суммой произведений соответствующей строки матрицы A со столбцом матрицы B. Отсюда следует что AB != BA и "соседние" размерности у этих матриц должны быть равны. В примере выше, если m != k, тогда произведение BA получить не получится.
Обращением или обратной матрицей называется матрица, которая при умножении на исходную дает единичную матрицу. При этом произведение прямой и обратной матриц в любом порядке должно давать единичную матрицу. Обратная матрица может существовать только для квадратной матрицы.
Не для каждой матрицы есть обратная. Если такая существует, то исходная матрица называется регулярной/обратимой/невырожденной. В противном случае - вырожденной/необратимой. Если обратная матрица существует - то она единственна.
Если для матрицы записать ее строки в виде столбцов, а столбцы - в виде строк, то получим транспоринрованную матрицу.
Свойства обращения и транспозиции:
