Можно взять какую-нибудь современную распределённую БД, работающую по принципу big table, наклепать над ней DSL для запросов, по мере обучения (создания датасета в БД) писать новые и новые скрипты для логики, а ещё можно фигачить маленькие программки для процессинга в виде триггеров в БД.
Серьёзно, конечные автоматы, графы вся эта фигня она давно всего лишь частность, сегодня машинное обучение есть набор датасетов и разметка данных в первую очередь, а уже потом алгоритмы над данными.
