На самом деле, очень сложно ответить на подобный вопрос. Не посмотрев на вашу конфигурацию и систему под нагрузкой сложно дать какие-либо рекомендации.
Важно понимать, что Flussonic - это видеостример, а не веб-сервер, раздающий статические файлы.
Смотрите какие процессы происходят в описанном вами сценарии:
- Захват UDP-трафика, задача сама по себе непростая, т.к. системный буфер имеет небольшой объем (как правило 1-16 МБ), а данных поступает немало (вы говорите про 600 Мбит/с)
- Декодирование MPEG-TS. Да, именно распаковка транспортного потока и разбор потока до кадра, все аудио и видеофреймы помещаются в память Flussonic
- Запись на диск. Чтобы эффективно работать с диском и иметь возможность раздавать “на лету” сразу во все популярные форматы (HLS, DASH, HTTP MPEG-TS), мы применяем собственный контейнер. Но тем не менее, работа с диском не бесплатная, а если у вас медленное хранилище (например, RAID5 из объемных дисков 4+ТБ, то операции ввода-вывода могут сильно блокировать работу процессора.
- Упаковка HLS, DASH (и другие форматы). Разные Middleware и приставки работают с Flussonic по разным протоколам: index.m3u8, video.m3u8. rewind-3600.m3u8, timeshift_abs_N.m3u8, index.mpd, video.ts. Flussonic на лету (Just-in-Time Packaging) подготавливает все манифесты и сегменты, чтобы сэкономить память сервера (как дисковое хранилище, так и ОЗУ), при этом обеспечивает высочайшую совместимость со всеми современными устройствами.
- Упаковка HLS, DASH (и других форматов), но при чтении из архива. Тут тоже самое, но сопровождается еще обращения к дисковой подсистеме, что опять-таки, не бесплатно.
Описывать работу с API, Events, системы авторизации, сбор статистики, PulseDB и прочее я не буду, но все это тоже отнимает время процессора, которому, кстати, уже 9 лет! X5550, указанный вами 2009-го года выпуска. Процессор хороший, но посмотрите бенчмарки современных процессоров и сделайте выводы. Скорее всего, у вас получится недорого обновить сервер, повысив производительность вдвое, с заделом на будущее.
Как видите, проблему нужно рассматривать комплексно, рекомендую обратиться с этим вопросом в службу технической поддержки и подробнее описать используемые возможности и ваше оборудование.