"что делать, если при высоких дозах препарата даже с вирусом ОП выше, чем у интактных контрольных клеток?"
простите, но если (как я понял) необходимо титровать\разводить препарат до тех пор, пока его ОП не сравняется с фоном (ОП контроля - интактные клетки без вируса, без препарата), то значит титруйте... нет?

 
"Результаты мы обрабатываем..."
ваши результаты это серия точек, которая на графике располагается в виде сигмоидной кривой?

  Еще раз. Другой пример.
Два препарата с разной противовирусной активностью.
К инт клетки - контроль интактных клеток
К вируса - контроль клеток, зараженных рабочей дозой тест-вируса без препаратов.
К преп1 и К преп2 - контроли токсичности препаратов (клетки+ препараты в 5-кратной от максимальной дозы без тест-вируса).
При логистической аппроксимации необходимо задать Ymax и Ymin.
Ymin безусловно будет равно К вируса.
За Ymax можно принять как К инт клетки, так и К преп1 и К преп2, если препараты, кроме противовирусного, оказывают другое существенное воздействие на клетки. Тут возможны варианты. Пусть для простоты будет Ymax=ОП К инт клетки.
При расчете коэффициентов логистической регрессии вычисляется функция Z=Lg((Ymax-Ymin)/(Yi-Ymin)-1).
Обведенные красным точки дают ошибку при вычислении этой функции, так как, если Yi=Ymax, то вычисляется Lg(0),
если Yi>Ymax или Yi<Ymin, то вычисляется Lg отрицательного числа,
если Yi=Ymin, деление на 0.
Вопрос: что делать с этими точками?

  А почему "К преп1" (да и остальные "К ...") это "точечные оценки"? Это явно невозможная ситуация, и вместо них надо рисовать доверительный интервал (скорее всего односторонний). Думаю "ограничение сверху" и "ограничение снизу" на соответствующие контроли должны решить проблему.

  Нарисовать-то я могу. Это средние по 3-4 дублям.
Но как мне использовать эти интервалы в аппроксимирующей функции? Я же там должен какое-то конкретное значение подставить.

  Я и написал -- У "верхнего" ставить "ограничение сверху", у нижнего "ограничение снизу". Но не на "среднее", а на "значение варианты выборки".

PS 

Ну и второе --- если уж до конца смотреть вариант, когда "начало" и "конец" кривой в процедуру фитинга идут в виде "средних", то и промежуточные точки должны идти в таком же "агрегированном" виде?

 
А по поводу использования средних для аппроксимации - последние две точки препарата 1 и по средним будут выше средних К.

  даже если бутстрепом моду (или медиану) распределения выборочного среднего у экспериментальных точек взять?

  Я полагаю, что принципиально ничего не изменится. Ну так, на глаз.
Да и усложняет это анализ значительно. Тут и так от дисперсии клеток, сред, вируса голова кругом. А ещё  если замороченную статистику