После очереди == 4, нагрузка не растет, около 90k IOPS

2 Влияние числа тредов и числа файлов в работе на общий IOPS

Примечание: для 2 и 3 файлов – один файл был размещен на другом логическом диске

Тут тоже была таблица, но мне лень вставлять ее даже картинкой. На картинке опечатка, везде k, тысячи IOPS.

Затем общий IOPS не рос.

До 10 тредов IOPS на поток падало – с 40 тысяч при 1 треде на каждый файл.
При соотношении 2 файла \ 3 треда, всего 6 тредов, и 3 файла \ 2 треда – выйдя на примерно 40k IOPS на поток, при 4 тредах и 3 файлах просев до 33-35 k IOPS на поток

На 14 (7\2) и 15 (5\3) тредах начинает падать IOPS\thread – с 35 до 17.
На 14 – 10 по 35k, 4 по 17k
на 15 – 9 треда по 35k, 3 треда по 17k.
Что отлично укладывается в логику 12 тредов CPU, из которых 9 работают на один тред, генерируя по 35k, и 3 CPU потока обрабатывают по 2 дисковых треда по 17k.
На 24 тредах (2 файла \ 12 тредов и 3 файла \ 8 тредов)  картинка та же – все треды примерно по 17.5 IOPS
На 26 тредах (2\13 и 3\12) -4-6 потоков падают до 10k IOPS \ thread. Суммарно те же 40k

И для записи, пиковое значение было получено при 2 тредах на каждый их 3 файлов, 240k IOPS итого, по 40k IOPS на тред. Затем было только хуже –

Например, на казалось бы ПОЧТИ то же самое, 3 треда на два файла – производительность упала до 20k на тред, 120k IOPS.

На 4 потоках на файл, 12 файлах – производительность вроде бы была 210k, но есть разброс – от 15 до 20k IOPS на тред, перемерять надо.

На этом обзор физики можно и закончить, с выводами:
AMD потоки работают интереснее, чем у Intel, в именно этой реализации.
Максимальная производительность по чтению по дисковым операциям на физическом хосте достигается на числе потоков данных = числу потоков CPU
Производительность на чтение от очереди зависит достаточно слабо, то есть на очереди 8 выжало не 430, а 440k IOPS, на очереди 16 и 32 – 450k IOPS.

Внезапно, наловил ошибок – удалил старые файлы тестов, а новые, с тем же именем, не создаются!
There has been an error during threads execution
Error generating I/O requests
Оказалось, в какой-то момент в середине ночи удалил параметр с размером файлов.  Случайно. И даже не заметил. Поправил и завелось.

И, наконец, влияние read-modify-write для любителей дисков потолще.

Показать не удалось, потому что:
Картина на файле 10 гигабайт и длительности записи 10 секунд и прогреве W=10

Картина приплыли на файле 200 гигабайт при прогреве W=2

До этого прогрев был W=10. И, в таблице ниже, 3.5k это не опечатка, 3500 IOPS

Как бы так сказать, что при таком разбросе данных, это не тестирование, а полная и беспросветная лажа?

Потому что ничего не понятно, кроме того, что не зря замерял при разных параметрах. Получить лажу и увидеть ее полезно.

Перейдем к SQLsim.
Для опытов был взят Microsoft® SQL Server® 2019 Express,
Будете ставить – не забывайте сразу качать SQL Server Management Studio, пригодится.

файл отдельно не качается (я не нашел), поэтому скачал, поставил и вот -
C:\Program Files\Microsoft SQL Server\MSSQLXX.<InstanceName>\MSSQL\Binn

В GUI варианте теста «по умолчанию» ничего сложного – размеры файлов, размещение, число циклов, длина теста. Просто, наглядно.

Одна проблема – по умолчанию на 1 цикл поставлено 600 секунд (10 минут), и 12 циклов – то есть базовый тест – это два часа.

В конце теста генерируется sqliosim.log.xml.

Вторая проблема: тест не выдает в итоге каких-то цифр, типа «вы молодец, давайте дальше» - только таблицу

Display Monitor ********** Final Summary for file sqliosim.ldx ********** CLogicalFile::OutputSummary fileio.cpp

Display Monitor File Attributes: Compression = No, Encryption = No, Sparse = No CLogicalFile::OutputSummary fileio.cpp

Display Monitor Target IO Duration (ms) = 100, Running Average IO Duration (ms) = 0, Number of times IO throttled = NN, IO request blocks = NN CLogicalFile::OutputSummary fileio.cpp

Display Monitor Reads = NN, Scatter Reads = 0, Writes = NN, Gather Writes = 0, Total IO Time (ms) = NN CLogicalFile::OutputSummary fileio.cpp

Display Monitor DRIVE LEVEL: Sector size = 512, Cylinders = NN, Media type = NN, Sectors per track = 63, Tracks per Cylinders = 255 CLogicalFile::OutputSummary fileio.cpp

Display Monitor DRIVE LEVEL: Read cache enabled = Yes, Write cache enabled = Yes CLogicalFile::OutputSummary fileio.cpp

Display Monitor DRIVE LEVEL: Read count = BB, Read time = BB, Write count = BB, Write time = NN, Idle time = NN, Bytes read = NN, Bytes written = NN, Split IO Count = 0, Storage number = NN, Storage manager name = VOLMGR  CLogicalFile::OutputSummary fileio.cpp

Я молодец, ок, а дальше что?

Конечно, если вы молодец (как я), то будете смотреть не только в окно самой программы, а запустите resmon и будете смотреть нагрузку по дискам, очереди, задержки, etc.

Перейду к hammerdb .. но это уже другая история.

В следующих сериях, теперь уже точно!
Опыты на виртуальной машине на 3 ядра.

CPU affinity
Опыты на Debian внутри Hyper-V, опыты с Proxmox nested. Stay tuned!

Литература

Performance benchmark test recommendations for Azure NetApp Files
Azure NetApp Files regular volume performance benchmarks for Linux
Hidden Treasure Part 1: Additional Performance Insights in DISKSPD XML
Hidden Treasure Part 2: Mining Additional Insights

Command line and parameters
Customizing tests
Use an XML file to provide DiskSpd parameters
Use the SQLIOSim utility to simulate SQL Server activity on a disk subsystem

SQL Server I/O Basics, Chapter 2
Use the SQLIOSim utility to simulate SQL Server activity on a disk subsystem on Linux
SQLIOSim Create a realistic I/O load for stress-testing SQL Server 2005

about_Comparison_Operators
about_Assignment_Operators

hammerdb Documentation

PS

И немного powershell.

Часть 1, которую вы уже видели

$pciStats = (Get-WMIObject Win32_Bus -Filter 'DeviceID like "PCI%"').GetRelated('Win32_PnPEntity') |

foreach {

# request connection properties from wmi

[pscustomobject][ordered]@{

Name = $_.Name

ExpressSpecVersion=$_.GetDeviceProperties('DEVPKEY_PciDevice_ExpressSpecVersion').deviceProperties.data

MaxLinkSpeed  =$_.GetDeviceProperties('DEVPKEY_PciDevice_MaxLinkSpeed'  ).deviceProperties.data

MaxLinkWidth  =$_.GetDeviceProperties('DEVPKEY_PciDevice_MaxLinkWidth'  ).deviceProperties.data

CurrentLinkSpeed  =$_.GetDeviceProperties('DEVPKEY_PciDevice_CurrentLinkSpeed'  ).deviceProperties.data

CurrentLinkWidth  =$_.GetDeviceProperties('DEVPKEY_PciDevice_CurrentLinkWidth'  ).deviceProperties.data

} |

# only keep devices with PCI connections

Where MaxLinkSpeed

}

$pciStats | Format-Table -AutoSize

Get-CimInstance -ClassName Win32_Volume | Select-Object DriveLetter, FileSystem, BlockSize| Format-Table -AutoSize

$Path001 = 'C:\DiskSpd\amd64\'

$Sp = $Path001 + "diskspd.exe"

cd $Path001

$Rn = Get-Random -Minimum 1 -Maximum 10

$Version = "070_" + $Rn

$Drives = @("C")

$FilesTemp = "Data4del"

$File001 = "deleteme_01a.dm"

$File002 = "deleteme_02a.dm"

$File003 = "deleteme_03a.dm"

$Out021 = $Drives[0] + ':\' + $FilesTemp + '\' + $File001

$Out022 = $Drives[0] + ':\' + $FilesTemp + '\' + $File002

$Out023 = "D" + ':\' + $FilesTemp + '\' + $File003

# $OutsFilesAA = @("$Out021", "$Out023", "$Out021 $Out022","$Out021 $Out023","$Out021 $Out022 $Out023") - не работает вот так и все.

$OutsFilesAA = @( "$Out022")

$Logs = @()

$Threads = @("-t1","-t2", "-t3", "-t4","-t5","-t6","-t7","-t8","-t9","-t10","-t11","-t12","-t13","-t14","-t15")

# $Threads = @("-t1")

# $Write = ("-w0","-w30", "-w100")

$Write = @("-w100")

#$BlockSize = ("-b4k","-b8k")

$BlockSize = @("-b4k")

# $Outstanding = @("-o2","-o4","-o8","-o16","-o32")

$Outstanding = @("-o2")

$Size = "-c200G"

$Time = "-d10"

foreach ($OutFilesGr in $OutsFilesAA){

foreach ($Drv in $Drives){

foreach ($Bl in $BlockSize) {

foreach ($Wr in $Write) {

foreach ($Outs in $Outstanding){

foreach ($T1 in $Threads){

$TimeNow = get-date -UFormat "-%d-%m-%Y-%R" | ForEach-Object {$_ -replace ":","-"}

Write-Host "TT " $TimeNow

$Out001 = $Drv + ':\' + $FilesTemp + '\' + $File001

$Out002 = $Drv + ':\' + $FilesTemp + '\' + $File002

$Out003 = "D" + ':\' + $FilesTemp + '\' + $File003

$Stat1 = $Drv + ':\' + $FilesTemp + '\' + $Version + $TimeNow + "_" + $T1 + $Drv + $Outs + $T1 +'_1.log'

$Stat2 = $Drv + ':\' + $FilesTemp + '\' + $Version + $TimeNow + "_" + $T1 + $Drv + $Outs + $T1 +'_2.log'

$Stat3 = $Drv + ':\' + $FilesTemp + '\' + $Version + $TimeNow + "_" + $T1 + $Drv + $Outs + $T1 +'_3.log'

$Logs += $Stat1

Write-Host "testing mode " $T1 $Wr $Bl $Outs 'time' $Time # "GR" $OutFilesGr

# &$Sp $T1 $Wr $Bl -W10 $Outs $Time -Suw -D -L $Size $Out021 $Out022 > $Stat1

&$Sp $T1 $Wr $Bl -W10 $Outs $Time -Suw -D -L $Size $Out021 > $Stat1

}}}}}}

И часть 2

$FilesTempDir = "c:\Data4del\"

$StatFiles = "069"

$StatFilesList = Get-ChildItem -Path $FilesTempDir | Where-Object {$_.Name -like ($StatFiles + '*') | Sort-Object -Property CreationTime  }

foreach ($MyFile in $StatFilesList){

$TempData1 = Get-Content $MyFile.FullName  | Where-Object {$_ -like "Command Line*"}

$TempData1

$TempData2 = Get-Content $MyFile.FullName  | Where-Object {$_ -like "total:*"}

$TempData2

}

А всех заинтересовавшихся ждёт стена текста с методологией и выводами.

Показатели, на основе которых я составил индекс доступности жилья:

1. МЕДИАННЫЙ ДОХОД

Кто-то выписывает себе миллиардные зарплаты за счёт миноритариев, а кто-то работает швеёй за 10к. В итоге, средняя по стране составляет 97 тыс. рублей в месяц. Статистика по средним зарплатам в регионах - Росстат.

Вот несколько фактов о средней зарплате:

▪️ МОСКВА ЗАРАБАТЫВАЕТ В СРЕДНЕМ УЖЕ 180К+, ПЕТЕРБУРГ - ВСЕГО 118К В МЕСЯЦ. Ещё регионы со средней ЗП >100к: Московская обл. (111к), Мурманская обл. (118к), Красноярский край (101к), Иркутская обл. (100к), Якутия (133к), Камчатка (140к), Магаданская обл. (168к), Сахалин (138к), Чукотка (224к), ХМАО (125к), ЯНАО (185к), Ненецкий авт. округ (145к).

В этом году психологический рубеж 100к+ переступили Красноярск и Иркутск. В 2026 скорее всего рубеж перейдут Владивосток, респ. Коми, Ленобласть и Чита.

▪️БЫСТРЕЕ ВСЕХ ЗАРПЛАТЫ РАСТУТ В НИЖНЕМ НОВГОРОДЕ, +25,2% Г/Г. Это если брать скользящую среднюю. Также быстро растут ЗП в Липецке (+24,4%), Туле (+24,1%), Удмуртии (+24%) и в Кургане (+23%).

А хуже всего ЗП растут в Ингушетии (+10,2%), на Камчатке (+10,8%) и в Чечне (+11%). Фактически, в этих регионах отсутствует рост ЗП в реальном выражении (из-за инфляции).

▪️ ХУЖЕ ВСЕГО С ЗАРПЛАТАМИ ДЕЛА ОБСТОЯТ НА КАВКАЗЕ. В среднем по фед. округу ЗП 52,6к в месяц. Но это традиционно регионы с низкими доходами. Но самой высокой концентрацией геликов на душу населения. Здесь никакой сенсации.

Мособласть (111к) в 2 раза богаче соседнего Иваново (54к), якуты (133к) почти в 2 раза богаче бурятов (78к), Омск (70к) беднее Томска (82к), Саратов (64к) беднее Самары (74к), а татары (84к) богаче башкир (72к).

Оф. статистики медианного дохода по регионам нет.

По СберИндексу медианный доход составляет ~63% от среднего в целом по стране. В предыдущие годы я использовал формулу: Медиана = 0,65 х Средняя, и вопросов ни у кого не возникало. Так что продолжу оценивать медиану самостоятельно, через функцию от средней.

В расчёт беру молодую семью, где каждый зарабатывает один медианный доход по своему городу (итого 2 медианных дохода). Наша молодая семья сначала копит на первоначальный взнос на протяжении нескольких лет, откладывая 25% своего совокупного дохода. А потом тянет ипотеку, платёж по которой будет оцениваться как доля от общего дохода (в процентах).

2. ДОСТУПНОСТЬ ВТОРИЧКИ

Цену квадратного метра беру из Домклик. Оцениваю стоимость однушки 40 кв. м. Рассчитываю срок накопления первоначального взноса = 30% от стоимости жилья. Затем рассчитываю платеж по ипотеке: первоначальный взнос 30%, рыночная ставка на момент расчета 25%, срок 15 лет.

Вы заметили, что расчет ведется по текущей гигантской ипотечной ставке. Интересно будет наблюдать за индексом в динамике - в случае снижения ставок по ипотеке мы можем увидеть повышение цен на саму недвижимость (а можем и не увидеть), и вот что будет сильнее влиять на доступность (а в разных городах динамика будет разная) - мне предстоит оценить, а вам предстоит увидеть.

3. ДОСТУПНОСТЬ НОВОСТРОЙКИ

Цена квадратного метра новостройки - также средняя из Домклик, тоже 40 квадратов. Те же параметры ипотеки (размер первоначального взноса, срок), но учитываются льготные программы: семейная для всех регионов (7%) и дальневосточная/арктическая для ДВ и Арктики (3%).

При этом учитывается та доля дохода, которая будет отправлена в ипотечные платежи. Так например, если на ипотеку по расчетам уходит свыше 60% - баллы обнуляются, ипотека считается непосильной. А при платеже выше 30% от доходов - используется понижающий коэффициент, ибо платить больше 30% от дохода - напряжно. И только в случае с платежом менее 30% от дохода семьи баллы начисляются в полной мере, и город имеет шанс получить вплоть до 100 баллов.

F-ИНДЕКС

Почему F? Это от названия международного фонда, в котором пока что числится один человек (основатель, бухгалтер, казначей и водонос - все в одном лице). От лица этого фонда посещаю всякие финансовые конференции и пишу заметки в интернетах (в т.ч. на Пикабу), где считаю всякое - иногда даже полезное:

Как я рассчитываю индекс? Он зависит от трех параметров:

1. Срок накопления на первоначальный взнос (30% от цены жилья).

   Учитывается как срок накопления на вторичку, так и срок накопления на новостройку. Ни для кого не секрет, что стоимость новостройки и вторички может сильно отличаться - причем, от города к городу разница отличается существенно. Так например, в Ростове и Владимире цены почти одинаковые, а во Владивостоке новостройка почти в 2 раза дороже вторички.

Молодая семья зарабатывает 2 медианных дохода по своему региону. Откладывает 25% от совокупного дохода с целью накопить на первоначальный взнос по ипотеке. Для сбережений у семьи есть волшебный счёт: если недвижимость дорожает, сбережения растут в той же пропорции.

2. Доля дохода (в процентах), которую подлежит отдавать в качестве ежемесячного платежа по ипотеке на вторичку (без льгот).

Сейчас ужасное время с ипотечными ставками под 25% годовых. Такую ипотеку может взять себе только гуманитарий, не способный рассчитать, какую огромную сумму денег он отдаст в качестве процентов банку. Тем не менее, в индексе доступности жилья я считаю эту метрику важной, ведь времена меняются, и при ставках по ипотеке разумные 12-14% всё будет уже не так плохо, и тем интереснее увидеть динамику изменения доступности жилья в случае если к таким ставкам мы в обозримом будущем вернёмся.

Здесь есть зависимость начисляемых очков от доли дохода. Так, я решил, что если ежемесячный платеж составляет более 60% от дохода семьи, это считается непосильной ношей, и заслуживает 0 баллов. Если доля варьируется от 30% до 60% - действует понижающий коэффициент, ибо нагрузка на бюджет семьи значительная. А если ипотечный платеж составляет менее 30% от дохода - баллы начисляются в полной мере, ибо такой платеж уже выглядит посильным.

3. Доля дохода (в процентах), которую подлежит отдавать в качестве ежемесячного платежа по ипотеке на новостройку (с имеющимися льготными программами - федеральными и региональными).

Все то же самое, что и в случае с пунктом 2. Начисление баллов зависит от "посильности" платежа. Но ставки по ипотеке берутся льготные, и цена квартиры берется новостроечная (как правило, дороже).

РЕЗУЛЬТАТ

▪️ ГОРОД С САМЫМ ДОСТУПНЫМ ЖИЛЬЁМ - МУРМАНСК, 76,6 БАЛЛОВ. Это единственный город из 65 рассматриваемых, о котором можно утверждать, что жилье в городе доступное. Молодая семья с медианным доходом может без особого труда накопить на первоначальный взнос за 3 года, а потом без особого напряжения платить ипотеку. Но только в случае с новостройками, ежемесячный платеж за новостройку составит всего 16% от их дохода. В случае со вторичкой это 43% от дохода, кредитная нагрузка все равно высокая (из-за огромных ставок по рыночной ипотеке без льгот).

Конечно, доступность жилья связана с суровостью края - не каждый хочет в Мурманске оставаться, люди уезжают в более комфортные города. Думаю, Воркута при добавлении в рейтинг имела бы все 100 баллов, но я не ради прикола это считаю.

▪️ ГОРОД С САМЫМ НЕДОСТУПНЫМ ЖИЛЬЁМ - СОЧИ, 0 БАЛЛОВ. Местной среднестатистической семье накопить на жилье и приобрести его даже в теории невозможно. Копить на первый взнос придется 13-19 лет, а потом - уже далеко не молодой семье - надо платить 120-190% от своего дохода по ипотечному кредиту.

▪️ Город с самым доступным жильем, но при этом не находится на крайнем севере или в Сибири - Калуга. Комфортные 4 года для накопления первоначального взноса, 26% от дохода на платеж по льготной ипотеке, но 59% на платеж по текущим огромным ставкам на вторичку. В случае если ставки по ипотеке вслед за ключевой ставкой ЦБ вернутся к адекватным 12-14% годовых, город будет иметь 70+ баллов по индексу доступности жилья. Станет как Мурманск, только с хорошей погодой и Москвой под боком.

Ещё города с относительно недорогой недвижимостью и в комфортной для проживания климатической зоне: Липецк, Владимир, Смоленск, Ярославль, Тула и Пенза.

Вот ради обнаружения таких городов и ведется этот рейтинг - увидеть приятные города с адекватным климатом и хорошим соотношением "зарплаты-цена на квадратный метр". Жители Калуги и Липецка - цените свой город, несмотря на бычий рост недвиги, он у вас заметно слабее, чем во многих регионах!

ЧТО ДАЛЬШЕ?

Если тема будет вам интересна, я продолжу замерять этот индекс с интервалом пару раз в год. Можно доработать индекс, добавив в него еще ряд сложных параметров: лимиты льготного кредита, материнский капитал. Последний, в свою очередь, добавит очков городам с более дешевым жильем, ведь сумма установлена фиксированной на федеральном уровне, и в случае с "дешевыми" городами имеет больше значения, закрывая существенную долю первоначального взноса. Чего не скажешь о Москве или Сочи.

P.S.: отдельное огромное спасибо подписчикам моего скромного блога за то, что помогли мне довести индекс до ума своими комментариями и замечаниями - без вас в расчётах было бы гораздо меньше логики.