Many learning algorithms rely on the assumption that the data being processed can be held entirely in memory or in a single file on a disk [33]. Multiple classes of algorithms are designed on strategies and building blocks that depend on the validity of this assumption. However, when data size leads to the failure of this premise, entire families of algorithms are affected. This challenge is referred to as the curse of modularity [15]
http://publish.uwo.ca/~kgroling/papers/ML with Big Data.pdf

--------------------------------------------------
Note added at 18 hrs (2018-09-08 12:42:42 GMT)
--------------------------------------------------

Итак, в традиционных информационных хранилищах все данные всегда проходят через единый логический блок, отвечающий за их конвертацию, проверку, очистку, загрузку, и время выполнения этих операций редко бывает критичным для всей остальной системы. Однако при обработке Больших Данных такого единого блока быть не может. Cправедливости ради стоит отметить, что пока существует еще не так много задач с интенсивным входным потоком данных и еще возможно реализовать блок сбора, очистки, преобразования и загрузки в виде распределенной, но логически единой системы.
https://www.osp.ru/os/2012/07/13017638/