Все расширения для SQLite

Мне очень нравится SQLite. Это миниатюрная встраиваемая база, которая отлично подходит как для исследовательского анализа данных, так и в качестве хранилища для небольших приложений (писал об этом, не буду повторяться).

Но есть у нее один недостаток: маловато встроенных функций по сравнению с PostgreSQL или Oracle. К счастью, авторы заложили в SQLite механизм расширений, на котором можно сделать почти все что угодно. В результате интернет заполнен обрывочными расширениями, которые добавляют функцию-другую.

Мне хотелось большой системности. В результате появился проект sqlean — в нем я собираю вместе недостающие в SQLite функции, распределяю их по модулям, рефакторю код, пишу тесты и документацию. Получается что-то вроде стандартной библиотеки, как в Python или Go, только для SQLite.

Я планирую подробно написать про каждый модуль в отдельной статье, а пока — вот краткий обзор.

Основной набор

Это самые популярные функции, которых не хватало в SQLite:

• crypto: криптографические хеш-функции вроде MD5, SHA-1 и SHA-256.
• fileio: работа с файловой системой — чтение и запись файлов, создание каталогов.
• fuzzy: нечеткое сравнение строк, фонетические алгоритмы, транслитерация.
• ipaddr: манипуляция IP-адресами и подсетями.
• json1: работа с JSON.
• math: математические функции.
• re: регулярные выражения.
• stats: статистика — медиана, процентили, стандартное отклонение.
• text: работа со строками.
• unicode: поддержка юникода для функций upper(), lower() и LIKE.
• uuid: генерация уникальных идентификаторов.
• vsv: работа с CSV-файлами как с таблицами базы.

Все расширения можно скачать для Windows, Linix и macOS.

Инкубатор

Функции, которые пока не вошли в основной набор. Эти расширения могут быть плохо структурированы, но я их постепенно рефакторю и переношу в основные.

• array: работа с массивами (почти как в постгресе).
• besttype: преобразует строку в подходящий числовой тип.
• bloom: быстрый вероятностный способ понять, есть значение в таблице или нет.
• cbrt: кубический корень из числа.
• classifier: бинарный классификатор на логистической регрессии.
• compress и sqlar: архивация и распаковка данных.
• cron: проверяет даты по cron-шаблонам.
• define: динамически создает скалярные и табличные функции прямо из SQL.
• envfuncs: читает переменные среды.
• eval: выполняет произвольные SQL-запросы.
• fcmp: сравнение и округление десятичных дробей.
• isodate: дополнительные функции для работы с датами.
• math2: больше математических функций и битовой арифметики.
• pearson: корреляция Пирсона между двумя наборами данных.
• pivotvtab: сводные таблицы.
• recsize: считает размер записи в таблице.
• spellfix: быстрый поиск похожих слов в словаре.
• stats2 и stats3: еще больше матстатистики.
• text2: еще больше функций для работы со строками.
• uint: натуральная сортировка и сравнение строк, содержащих числа (natsort).
• unhex: преобразует строку в бинарные данные (обратная операция для hex()).
• xmltojson: преобразует XML в JSON.
• zipfile: читает и пишет zip-архивы.

Голосуйте за расширения в инкубаторе! Чем популярнее расширение, тем быстрее оно попадет в основной набор.

Инкубаторные расширения тоже можно скачать.

Как подключить расширение

Есть три способа. Если работаете с командной строкой SQLite (sqlite.exe):

sqlite> .load ./stats
sqlite> select median(value) from generate_series(1, 99);

Если используете инструмент вроде DB Browser for SQLite, SQLite Expert или DBeaver:

select load_extension('c:\Users\anton\sqlite\stats.dll');
select median(value) from generate_series(1, 99);

Если работаете из Python (в других языках аналогично):

import sqlite3

connection = sqlite3.connect(":memory:")
connection.enable_load_extension(True)
connection.load_extension("./stats.so")
connection.execute("select median(value) from generate_series(1, 99)")
connection.close()

Что дальше

Если почувствуете, что в SQLite вам не хватает какой-то функции — приходите в репозиторий sqlean, там наверняка найдется.

Я продолжаю добавлять новые расширения в инкубатор, а расширения из инкубатора рефакторю и переношу в основные. По каждому основному модулю планирую написать отдельную статью с примерами.

А если захотите поучаствовать — присылайте свои или чужие расширения.

Всем SQLite!