Граф связности произведений
Автор: Дмитрий Малыхин (i@dmalyhin.ru).
Помимо концептуального графа МАП строит прозрачный граф самих произведений.
Определение ребра
Базовая прямая аналитическая связь между двумя произведениями существует, если у них есть хотя бы один общий концепт или общий дескриптор.
V = произведения
E = пары с общим концептом или дескриптором
Для каждого ребра сохраняется число общих концептов и дескрипторов. Это позволяет отдельно рассматривать концептуальный и дескрипторный слои.
Глобальные свойства
Для графа вычисляются:
- число рёбер и плотность;
- степени вершин;
- средняя, медианная, минимальная, максимальная и 90-й перцентиль степени;
- компоненты связности;
- изолированные и универсально связанные произведения;
- крупнейшая компонента и её доля;
- точки сочленения;
- мостовые рёбра;
- средняя длина кратчайшего пути, диаметр, радиус и центр крупнейшей компоненты.
Проверка устойчивости определения связи
Связность корпуса проверяется при более строгих сценариях:
- не менее двух общих концептов;
- одновременно общий концепт и общий дескриптор;
- минимальный Jaccard объединённого набора концептов и дескрипторов;
- исключение фоновых признаков, встречающихся в слишком большой доле корпуса.
Это позволяет видеть, насколько структура корпуса зависит от слабых единичных совпадений.
Отличие от рекомендаций
Граф связности — топологическое представление прямого совместного присутствия признаков. Структурная рекомендательная модель использует взвешенный TF-IDF, классификацию, профиль и авторство. Поэтому эти два отношения не должны смешиваться.